Αυτόνομα φονικά όπλα: Όταν η τεχνητή νοημοσύνη αποφασίζει ποιον να σκοτώσει

Εάν υπάρχει ένα πράγμα που έχουμε μάθει τα τελευταία χρόνια, είναι ότι δεν είναι καθόλου εύκολο να γίνει πρόβλεψη των συνεπειών της τεχνολογίας. Τα κοινωνικά δίκτυα ξεκίνησαν ως τρόπος σύνδεσης των φίλων μέσω του διαδικτύου και χρησιμοποιούνται σήμερα για να στρατολογήσουν τρομοκράτες και να επηρεάσουν τις εκλογές. Ας φανταστούμε το χάος που θα μπορούσε να προκύψει με νέες τεχνολογίες που ούτε καν υποκρίνονται ότι είναι φιλικές. Η εμφάνιση των αυτόνομων έξυπνων όπλων έχει κάνει δικαιολογημένα πολλούς αναλυτές να τρέμουν. Εξοπλισμένα με τεχνητή νοημοσύνη, μερικά από αυτά τα όπλα θα μπορούσαν, χωρίς άμεσο ανθρώπινο έλεγχο, να επιλέξουν μόνα τους και να εξαλείψουν τους στόχους με ταχύτητα και αποτελεσματικότητα που οι στρατιώτες δεν μπορούν καν να φανταστούν.

Ο παγκόσμιος ανταγωνισμός για την ανάπτυξη πλήρως αυτόνομων οπλικών συστημάτων όπλων υπό την καθοδήγηση της τεχνητής νοημοσύνης κινδυνεύει να εξελιχθεί σε μια νέα κούρσα εξοπλισμών, σύμφωνα με τη νέα μελέτη της ολλανδικής αντιπολεμικής ΜΚΟ Pax. Τα θανατηφόρα αυτόνομα όπλα ή «ρομπότ-φονιάδες», όπως περιγράφονται από την Pax, σχεδιάζονται έτσι ώστε να επιλέγουν και να επιτίθενται σε στόχους χωρίς άμεσο ανθρώπινο έλεγχο. Η έλευσή τους θεωρείται η «3η επανάσταση» στον πόλεμο από τους ειδικούς  μετά την εφεύρεση της πυρίτιδας και των πυρηνικών όπλων.

Αυτή τη στιγμή είναι γνωστό ότι αναπτύσσουν αυτόνομα όπλα 7 χώρες: ΗΠΑ, Κίνα, Ρωσία, Ηνωμένο Βασίλειο, Γαλλία, Ισραήλ και Νότια Κορέα. Για την ώρα η στρατιωτική πολιτική των ΗΠΑ επιβάλλει ένα επίπεδο ανθρώπινης αλληλεπίδρασης, όταν το όπλο αποφασίζει τελικά να πυροβολήσει. Οι υπόλοιπες χώρες λένε ότι θα υποστήριζαν την απαγόρευση των πλήρως αυτόνομων θανατηφόρων όπλων εκτός από την Κίνα που υποστηρίζει την απαγόρευση της χρήσης τους αλλά όχι την ανάπτυξή τους.

«Τα θανατηφόρα αυτόνομα όπλα εγείρουν πολλές νομικές και ηθικές ανησυχίες», αναφέρει η έκθεση της Pax, και συνεχίζει «θα ήταν βαθιά ανήθικο να μεταβιβάσουμε την απόφαση για τη ζωή και το θάνατο σε μια μηχανή ή σε ένα αλγόριθμο». Οι μηχανές από μόνες τους είναι «απίθανο να συμμορφωθούν» με τους κανόνες του πολέμου ή να έχουν τη δυνατότητα να κάνουν διάκριση μεταξύ αμάχων και στρατιωτών. Η Pax προβλέπει επίσης ότι θα υπάρχει «κενό λογοδοσίας» μετά από ακατάλληλες ή παράνομες ενέργειες των ρομπότ. Κανείς δεν γνωρίζει ακόμη πώς θα αλληλεπιδρούν τα πλήρως αυτόνομα θανατηφόρα όπλα με αλγόριθμους που θα λαμβάνουν αποφάσεις ζωής ή θανάτου, σε καταστάσεις πραγματικού κόσμου. Η Pax καλεί τη διεθνή κοινότητα να «καθορίσει σαφή όρια στο νέο διεθνές δίκαιο και να αποτρέψει την ανάπτυξη ρομπότ-δολοφόνων». Μια προληπτική απαγόρευση που θα υποστηρίζεται από το διεθνές δίκαιο θα πρέπει να ξεκινήσει από τις εθνικές κυβερνήσεις, σύμφωνα με την έκθεση. Η τεχνολογική βιομηχανία αλλά και οι μεμονωμένοι μηχανικοί και επιστήμονες έχουν επίσης την ευθύνη να μην συμμετέχουν στην ανάπτυξη τέτοιων όπλων, λέει ο Daan Kayser, ο βασικός συγγραφέας της μελέτης.

Η υποστήριξη του ιδιωτικού τομέα θα είναι ζωτικής σημασίας, σύμφωνα με τη μελέτη και ο Kayser σημειώνει ότι ήδη η Google θέσπισε ένα σχετικό ηθικό κώδικα μετά από την αντίθεση των εργαζομένων της απέναντι στο έργο Project Maven  που έχει αναλάβει για λογαριασμό του Πενταγώνου, ένα σύστημα που χρησιμοποιεί τεχνητή νοημοσύνη για να επιλέξει τους στόχους που θα γίνονται επιθέσεις από drones. Επίσης η εταιρεία Thales, ο γαλλικός αμυντικός και αεροδιαστημικός εργολάβος, έχει δεσμευτεί να προχωρήσει σε απαγόρευση των αυτόνομων όπλων. Οι ιδιωτικές εταιρείες θα προχωρήσουν όσο το επιτρέπει ο νόμος, λέει ο Cindy Otis, πρώην στρατιωτικός αναλυτής της CIA. Αν νομίζουν ότι υπάρχει ενδιαφέρον από τις κυβερνήσεις και δεν υπάρχει κανένας κανονισμός που να τους περιορίζει, θα το κάνουν.

Τα όπλα προορίζονται όλο και περισσότερο να είναι «έξυπνα» και έτσι θα συνεχίσουν να κινούνται προς αυτή την κατεύθυνση. Οι κυβερνήσεις έχουν την ευθύνη να διασφαλίσουν ότι υπάρχουν κανονισμοί και τα κράτη να θέσουν σε εφαρμογή το τι είναι πρόθυμα να δεχθούν και τι δεν είναι. Μέχρι σήμερα, 28 κράτη έχουν ζητήσει την πλήρη απαγόρευση των αυτόνομων θανατηφόρων όπλων. Ο Kayser αναφέρει ότι παρόλο που οι συνομιλίες του ΟΗΕ διεξάγονται από το 2014, η επικείμενη απειλή απαιτεί μια πολύ πιο αποτελεσματική και γρήγορη διαδικασία. Αυτή η διπλωματική διαδικασία είναι αργή και ενώ βλέπουμε ότι όλο και αυξάνονται οι φωνές κρατών και ανθρώπων που βλέπουν την ανάγκη θέσπισης σαφών διεθνών κανόνων δεν κινούμαστε αρκετά γρήγορα.

Με πληροφορίες από thebulletin.org