Open-AI και Γενική Τεχνητή Νοημοσύνη: Πόσο απειλείται η ανθρωπότητα; Πρόκειται για ζήτημα τεχνολογικό ή πολιτικό και φιλοσοφικό;
Μόλις 12 μήνες μετά την κυκλοφορία του ChatGPT τα πιο έγκυρα media στον κόσμο αναφέρουν ως ρεαλιστική πιθανότητα η εταιρεία OpenAI, που τρέχει το ChatGPT, να έχει εφεύρει μια «Γενική Τεχνητή Νοημοσύνη» που μπορεί να απειλήσει την ανθρωπότητα.
Ο επικεφαλής της OpenAI, Σαμ Άλτμαν, απολύθηκε ξαφνικά για αυτό απ’ τη θέση του πριν λίγες μέρες - για να επιστρέψει όμως ως θριαμβευτής λίγα 24ώρα μετά καρατομώντας όσους τον απέλυσαν.
Την ίδια στιγμή ιστορίες βγαίνουν στη δημοσιότητα που λένε ότι ο επικεφαλής επιστήμονας της εταιρείας, Ίλια Σουτσγκέβερ, κάνει περίεργους πνευματικούς ισχυρισμούς καθώς καίει ξύλινα ομοιώματα εναντίον μιας «Γενικής Τεχνητής Νοημοσύνης».
Όλη η ιστορία θα γινότανε δυνατό θρίλερ στο Νέτφλιξ. Αλλά οι εξελίξεις των τελευταίων ημερών επιβεβαιώνουν όσους υποστηρίζουν ότι η πραγματικότητα ξεπερνά τη φαντασία. Τι είναι αλήθεια και τι φήμη από τα παραπάνω; Και τι είναι η Γενική Τεχνητή Νοημοσύνη για την οποία τόσος ντόρος γίνεται; Ας πάρουμε τα πράγματα απ’ την αρχή.
Η ένταση στην OpenAI ανέβηκε τον Οκτώβριο του 2023 όταν μέλος του ΔΣ της εταιρείας, η Έλεν Τόνερ, μια επιστήμονας ευαισθητοποιημένη σε ζητήματα ασφάλειας της Τεχνητής Νοημοσύνης, δημοσίευσε μια επιστημονική εργασία ασκώντας κριτική στα συστήματα ασφαλείας της OpenAI. Στην ίδια εργασία επαινούσε δε τα συστήματα ασφαλείας μιας άλλης εταιρείας, της “Anthropic”, που είναι ένας απ’ τους μεγαλύτερους ανταγωνιστές της OpenAI σύμφωνα με τον Άλτμαν και τους NY Times.
Η “Anthropic” γεννήθηκε από τα σπλάχνα της OpenAI, όταν στελέχη της θεώρησαν ότι ο Σαμ Άλτμαν δεν έπαιρνε αρκετά σοβαρά την ασφάλεια του ΑΙ, και έφυγαν φτιάχνοντας ένα δικό τους σύστημα ασφαλείας. Η Τόνερ υποστήριξε ότι αυτό είναι καλύτερο από της OpenAI. Και αυτό δεν άρεσε καθόλου στον Άλτμαν.
Η ένταση μεταξύ τους μεγάλωνε. Η Τόνερ είχε στο πλευρό της τον επικεφαλής επιστήμονα και μέλος του ΔΣ της OpenAI, Ίλια Σουτσγκέβερ. Ένα άνθρωπο που, σύμφωνα με το Atlantic, έκαιγε ξύλινα ομοιώματα μιας Γενικής Τεχνητής Νοημοσύνης για να δείξει την εναντίωσή του σε αυτή και στις θεϊκές δυνάμεις που μπορεί να αναπτύξει εναντίον της ανθρωπότητας. Παρότρυνε δε τους συνεργάτες του να ψάλλουν «Νιώσε τη Γενική Τεχνητή Νοημοσύνη - Νιώσε τη Γενική Τεχνητή Νοημοσύνη» ως οιονεί γκουρού της εταιρείας. Ο Σουτσγκέβερ ήταν έτσι ένας από τους πρωταγωνιστές του πραξικοπήματος εναντίον του Άλτμαν.
Οι κατηγορίες προς τον Άλτμαν, σύμφωνα με το Reuters, αφορούσαν στο ότι οδηγούσε την ανάπτυξη μιας Γενικής ΤΝ που μπορεί να απειλήσει την ανθρωπότητα χωρίς να λαμβάνει επαρκείς δικλείδες ασφαλείας, και χωρίς να είναι «ειλικρινής στις επικοινωνίες του με το ΔΣ» της OpenAI. Ο ίδιος ο Αλτμαν, λίγες ώρες πριν την απόλυση του, διαλαλούσε πως «οι ικανότητες του μοντέλου ΤΝ που φτιάχνουμε, συστήνουν μια τόσο αλματώδη του πρόοδο που κανείς δεν περίμενε. Τόσο μεγάλη είναι η πρόοδός μας».
Ο Άλτμαν απολύθηκε έτσι πριν λίγες μέρες. Η εξέλιξη αποτέλεσε έκπληξη για όλο τον κόσμο παίζοντας ως βασικό θέμα στα διεθνή media. Τρεις μέρες μετά όμως η Microsoft (κύριος μέτοχος της OpenAI με ποσοστό 49%) στήριξε τον Σαμ Αλτμαν, ανακοινώνοντας πως του αναθέτει την ηγεσία μιας νέας ερευνητικής ομάδας ΤΝ.
Και οι κινηματογραφικές εξελίξεις συνεχίστηκαν. Μετά από πλούσιο παρασκήνιο ο Σουτσγκέβερ έκανε στροφή 180 μοιρών λέγοντας πως «λυπάται βαθιά για την ανατροπή» του Αλτμαν στην οποία συμμετείχε, προσφέροντας την πλήρη στήριξη του προς εκείνον! Την ίδια στιγμή όλοι σχεδόν οι υπάλληλοι της OpenAI απαιτούσαν την επιστροφή του. Και πράγματι. Ο Άλτμαν επέστρεψε ως θριαμβευτής ξανά στη θέση του τέσσερα 24ώρα μετά την απόλυση του. «Πολύ σκληρός για να πεθάνει» σκέφτηκαν πολλοί - και για να μην έχει κανείς αμφιβολίες καρατομήθηκαν από το ΔΣ της OpenAI όσοι πρωτοστατήσαν στην απόλυση του (μεταξύ των οποίων βέβαια και η Έλεν Τόνερ).
Οικονομία Vs Ασφάλειας
Τώρα, τι είναι σημαντικό από όλη την ιστορία. Καταρχάς το οικονομικό σκέλος. Αν είναι κανείς μέτοχος της Open-AI ή της Microsoft το ότι ο Άλτμαν επέστρεψε κι οδηγεί την κούρσα για την ανάπτυξη μιας όλο και πιο ισχυρής ΤΝ όλο και πιο γρήγορα είναι οπωσδήποτε καλά νέα. Η ΤΝ παράγει πλούτο που ουδείς άλλος τομέας οικονομίας μπορεί να υποσχεθεί, και η OpenAI βρίσκεται στην πρωτοπορία αυτής της κούρσας.
Το πραγματικά επίμαχο καταρχήν όμως είναι το ζήτημα της ασφάλειας. Η ασφάλεια στην δημιουργία Γενικής ΤΝ, μιας ΤΝ δηλ. που φτάνει όλες τις δεξιότητες του ανθρώπου και άρα θα μπορεί να τις ξεπεράσει είναι επίφοβο και σοβαρό ζήτημα. Πολύ. Η Γενική ΤΝ συστήνει μιας από τις μεγαλύτερες ελπίδες αλλά και έναν από τους μεγαλύτερους φόβους για το μέλλον της ανθρωπότητας για όποιον έχει βυθομετρήσει ζητήματα ηθικής, δηλ φιλοσοφίας, της ΤΝ.
Αυτός είναι ο λόγος για τον οποίο η OpenAI στο ξεκίνημά της δεν ήταν μια τεχνολογική κερδοσκοπική εταιρεία (όπως η Meta ή η Google). Ιδρύθηκε το 2015 ως μη κερδοσκοπικός ερευνητικός οργανισμός αφιερωμένος στη δημιουργία γενικής ΤΝ που θα ωφελήσει «την ανθρωπότητα συνολικά», και διεξήγαγε την έρευνα της με τις μέγιστη δυνατή ασφάλεια. Ο μη κερδοσκοπικός αυτός οργανισμός όμως δεν υπάρχει πλέον ως τέτοιος. Και μετά από όσα διέρρευσαν το τελευταίο διάστημα, δεν είναι σαφές αν οι ιδρυτές της OpenAI μπορούν να κοιμούνται καλύτερα από πριν...
Τι είναι η Γενική Τεχνητή Νοημοσύνη
Γιατί είναι τόσο φοβερή ωστόσο μια Γενική ΤΝ και τι ακριβώς είναι; Υπάρχει καταρχάς η «Ειδική ΤΝ» και η «Γενική ΤΝ». Ειδική ΤΝ είναι κάθε ΤΝ που επιτελεί μια μόνο εργασία: από τα έξυπνα αυτοκίνητα που οδηγούν τον εαυτό τους έως τις ιατρικές εφαρμογές της ΤΝ ή τα βίντεο που μας προτείνει το YouTube, όλες αυτές είναι μορφές ΤΝ που επιτελούν από μια μόνο εργασία. Στην πραγματικότητα όποια ΤΝ έχουμε επινοήσει ως σήμερα εκτελεί από μια μόνο εργασία, γι’ αυτό όλες ανήκουν στην κατηγορία της «Ειδικής ΤΝ».
Η Γενική ΤΝ αναφέρεται πάλι σε ένα μηχάνημα που θα μπορεί να επιτελεί κάθε διανοητική εργασία που κάνει ο άνθρωπος: Ο ανθρώπινος νους διαθέτει ακριβοθώρητες και πλούσιες λειτουργίες: πελώρια αποθέματα μνήμης, προσοχής, ανάλυσης, πρόβλεψης, φαντασία και την εκπληκτική ικανότητα «να μαθαίνει πώς να μαθαίνει». Χάρη σε αυτές πετύχαμε επιτεύγματα που εκτείνονται απ’ την υλοτομία και τη μαγειρική μέχρι την κβαντομηχανική και τη σύνθεση ποιημάτων.
Λόγω του πλούτου της ανθρώπινης διάνοιας είναι εμφανές ότι η Γενική ΤΝ προς το παρόν ανήκει στη σφαίρα της φαντασίας. Προς το παρόν. Καθώς πολλοί τεχνολόγοι και φιλόσοφοι εκτιμούν πώς βρισκόμαστε πολύ κοντά στο ορόσημο της – πιο κοντά απ’ όσο οι πιο πολλοί θα ανέμεναν. Ιδίως μετά την εμφάνιση του GPT πολλοί ειδήμονες εκτιμούν ότι απέχουμε πια ιστορικά ελάχιστα από αυτό το σημείο. Ένα σημείο που θα μεταμορφώσει ταχύτατα και πολύ βαθιά την πορεία της ανθρωπότητας.
Ποιος είναι ο μεγάλος κίνδυνος αυτής της ιστορίας; Μια Γενική ΤΝ θα μπορεί, ακριβώς εξαιτίας των τεράστιων διανοητικών της δεξιοτήτων, να φτιάχνει η ίδια ΤΝ και να βελτιώνει την ΤΝ που παράγει, φτιάχνοντας ως αποτέλεσμα πολύ γρήγορα μια Τεχνητή Υπερνοημοσύνη που θα υπερβαίνει τη νοημοσύνη του ανθρώπου. Πόσο γρήγορα θα συμβεί αυτό μετά τη Γενική ΤΝ; Η απάντηση είναι «πολύ». Κάποιοι λένε μέσα σε λίγα χρόνια, και άλλοι υποστηρίζουν μέσα σε λίγες στιγμές από την επινόηση της Γενικής ΤΝ.
Ο Νικ Μπόστρομ, από τους πλέον επιφανείς φιλοσόφους της ΤΝ, καθηγητής στην Οξφόρδη με πλούσιες διεθνείς διακρίσεις, εκτιμά ως πιο πιθανό σενάριο μια ταχύτατη απογείωση της.
Σημειώνει: «Ένα ενδεχόμενο είναι “η γρήγορη απογείωση” της ΤΝ να συμβεί σύντομα, σε λεπτά, ώρες ή μέρες. Αυτό το σενάριο προσφέρει ελάχιστες ευκαιρίες στους ανθρώπους για να σκεφτούν και να αντιδράσουν. Κανένας δεν θα έχει καν προσέξει κάτι το ασυνήθιστο συμβαίνει μέχρι να έχει χαθεί το παιχνίδι. Σε ένα σενάριο “γρήγορης απογείωσης” η μοίρα της ανθρωπότητας εξαρτάται εξ ολοκλήρου από τις αντίστοιχες προετοιμασίες που θα έχει κάνει για αυτό το σενάριο […] Το δε σενάριο μιας αργής μετάβασης προς την Τεχνητή Υπερνοημοσύνη είναι απίθανο. Εάν και όταν μια τέτοια απογείωση συμβεί, μάλλον θα είναι εκρηκτικά γρήγορη» (Superintelligence, σ. 64-65).
Σε ακαριαίο ιστορικά χρόνο θα σμιλευθεί ένα τεράστιας ευφυίας είδος όντων - του οποίου την ταχύτητα, τη λειτουργία, ή τις προθέσεις δεν θα μπορούμε να παρακολουθούμε με τη δική μας ανθρώπινη αντίληψη – με τον ίδιο τρόπο που οι προθέσεις, οι σκέψεις και ο πολιτισμός μας δεν μπορούν να γίνουν αντιληπτά από πλάσματα χαμηλότερης νοημοσύνης από εμάς όπως είναι οι χιμπατζήδες, τα δελφίνια ή τα μυρμήγκια.
Αυτό δεν σημαίνει ότι μια τέτοια ΤΝ θα επιτεθεί απαραίτητα στους ανθρώπους. Σημαίνει όμως ότι δεν θα μπορούμε εύκολα να την ελέγξουμε.
Ο Μπόστρομ φέρνει το παράδειγμα μιας τέτοιας ΤΝ που έχει εντολή να παράγει ας πούμε4 συνδετήρες. Έστω ότι σε κάποιο εργοστάσιο μια τέτοια ΤΝ έχει την εντολή να παράγει όσο το δυνατόν περισσότερους συνδετήρες. Αυτή η ΤΝ χάρη στην ανεξάντλητη της διάνοια προχωρά στο έργο της με τέτοιο τρόπο ώστε δεν σταματά πουθενά: εξαντλεί τις ενεργειακές πηγές και τις πρώτες ύλες της Γης μετατρέποντας κάθε τι πάνω της σε συνδετήρες. Επιφέρει μια δίχως προηγούμενο οικολογική και κοινωνική καταστροφή διότι πολύ απλά ο κώδικάς της δεν προέβλεπε ένα όριο στο πόσους συνδετήρες πρέπει να φτιάξει. Ίσως σκεφτεί κανείς ότι η λύση στο πρόβλημα είναι προφανής: θα βάλουμε όρια δίνοντας εντολή να φτιάξει π.χ. 1 εκατομμύριο συνδετήρες.
Όμως «πόσο προφανής ήταν αυτή η λύση πριν επισημανθεί ότι υπάρχει κάποιο δυνητικό πρόβλημα που πρέπει να θεραπευτεί;». Η περίπτωση μιας τόσο προηγμένης ΤΝ ακριβώς εξαιτίας των ανεξάντλητων σκέψεων και πρωτοβουλιών που μπορεί να πάρει, θα είναι πάντα επίφοβα απρόβλεπτη.
Μια πλημμύρα τεχνολογίας
Εκείνο το οποίο είναι εξίσου επίφοβο και μαζί συναρπαστικό (καθώς μια τόσο προηγμένη ΤΝ προφανώς θα μπορεί να έχει και τεράστια οφέλη για τον άνθρωπο στην ανάπτυξη π.χ. της ιατρικής, της οικονομίας και κάθε άλλου τομέα της ζωή μας) είναι πως στην εποχή μας φαντάζει ως ορατό ενδεχόμενο πλέον η ανάπτυξη μιας τέτοιας Γενικής ΤΝ.
Μόλις 12 μήνες μετά την κυκλοφορία του ChatGPT3.5 και συζητάμε ως υπαρκτή πιθανότητα σε όλα τα media αλλά και τα εργαστήρια ΤΝ του κόσμου το άλλοτε απίθανο σενάριο: να έχει φτιαχτεί Γενική ΤΝ. Ακόμη κι αν δε συμβαίνει τώρα κάτι τέτοιο αλλά χρόνια ή δεκαετίες αργότερα, στην πραγματικότητα λίγη σημασία έχει.
Το επίμαχο είναι ότι κινούμαστε ορμητικά προς αυτό το ορόσημο που θα μεταμορφώσει την ανθρώπινη ιστορία όσο τίποτε άλλο σύμφωνα με πολλές θεωρητικές αναλύσεις. Γι’ αυτό και χρειάζεται να αναπτυχθούν έγκαιρα επαρκείς δικλείδες ασφαλείας. Να αναπτυχθεί ένας έλεγχοςτης ΤΝ όσο βρισκόμαστε στην αρχή της ανάπτυξης της. Μετά θα είναι αργά γιατί η ΤΝ θα αποκτήσει ένα στρατηγικό πλεονέκτημα καθώς θα μπορεί να καθορίζει μόνη της δικούς της στόχους (όπως τη βελτίωση των δυνατοτήτων της).
Το «πρόβλημα ελέγχου» όπως φαίνεται από την πρόσφατη ιστορία της OpenAI, δεν είναι τεχνολογικό. Δεν μπορούν να το λύσουν οι ίδιοι οι τεχνολόγοι όσο έχουν ως μέριμνα τους το βραχυπρόθεσμο κέδρος. Το πρόβλημα είναι πρωτίστως πολιτικό και φιλοσοφικό.
Από τα βάθη του 21ου αιώνα αναδύεται μια πλημμύρα ΤΝ απ’ την οποία μόνον οι πρώτες της σταγόνες μας έχουν αγγίξει ως τώρα. Η φιλοσοφία καλείται να ενώσει τα σημεία τους για να συλλάβει τη μεγάλη τους εικόνα και η πολιτική να προνοήσει για τη νομοθετική της οριοθέτηση. Έγκαιρα. Όσο υπάρχει περιθώριο καλής προνοητικής διαχείρισης.
21°
