Το deepfake πορνογραφικό υλικό με την Τέιλορ Σουίφτ και η απειλή για την ανθρωπότητα

Η ταχεία διαδικτυακή εξάπλωση των deepfake πορνογραφικών εικόνων της Τέιλορ Σουίφτ ανανεώνει τις εκκλήσεις, μεταξύ άλλων από πολιτικούς των ΗΠΑ, να ποινικοποιηθεί η πρακτική, στην οποία η τεχνητή νοημοσύνη χρησιμοποιείται για τη σύνθεση ψεύτικων, όσο και πειστικών εικόνων.

Τέιλορ Σουίφτ: Δεκάδες εκατομμύρια προβολές του deepfake υλικού

Οι εικόνες της Αμερικανίδας ποπ σταρ διανεμήθηκαν στα μέσα κοινωνικής δικτύωσης και έχουν εκατομμύρια προβολές αυτήν την εβδομάδα. Οι κατασκευασμένες φωτογραφίες δείχνουν την Τέιλορ Σουίφτ σε μία σειρά σεξουαλικών πράξεων, ενώ ήταν ντυμένη με τα διακριτικά της ομάδας του συντρόφου της, αθλητή των Kansas City Chiefs.

Αφού πρώτα εμφανίστηκε στην εφαρμογή Telegram, μια από τις εικόνες της Σουίφτ που φιλοξενήθηκε στο X εμφανίστηκε 47 εκατομμύρια φορές πριν αφαιρεθεί. Σε σύντομο χρονικό διάστημα οι εικόνες δημοσιοποιήθηκαν επίσης στο Facebook, το Instagram και το Reddit.

Η πλατφόρμα κοινωνικής δικτύωσης του Έλον Μασκ ανέφερε σε δήλωση: «Οι ομάδες μας αφαιρούν ενεργά όλες τις αναγνωρισμένες εικόνες και λαμβάνουν τα κατάλληλα μέτρα κατά των λογαριασμών που είναι υπεύθυνοι για τη δημοσίευσή τους».

Κάλεσμα για πολιτική δράση ενάντια στις εικόνες deepfake

Η Ιβέτ Ντ. Κλαρκ, Δημοκρατική βουλευτής της Νέας Υόρκης, έγραψε στο X: «Αυτό που συνέβη στην Τέιλορ Σουίφτ δεν είναι κάτι καινούργιο. Εδώ και χρόνια, οι γυναίκες ήταν στόχοι deepfakes χωρίς τη συγκατάθεσή τους. Και με τις εξελίξεις στην τεχνητή νοημοσύνη, η δημιουργία deepfakes είναι ευκολότερη και φθηνότερη. Αυτό είναι ένα ζήτημα που και οι δύο πολιτικές πλευρές, αλλά ακόμη και οι Swifties θα πρέπει να μπορούν να ενωθούν ώστε να το αντιμετωπίσουν».

Ορισμένες μεμονωμένες πολιτείες των ΗΠΑ έχουν τη δική τους νομοθεσία κατά των deepfakes, αλλά υπάρχει αυξανόμενη ώθηση για αλλαγή στην ομοσπονδιακή νομοθεσία.

Τον Μάιο του 2023, ο Δημοκρατικός βουλευτής Τζόζεφ Μορέλ αποκάλυψε τον προτεινόμενο νόμο για την πρόληψη των πλαστών προσωπικών εικόνων, ο οποίος θα καθιστούσε παράνομη την κοινή χρήση ψεύτικης πορνογραφίας χωρίς συναίνεση.

Ο Μορέλ είπε ότι οι εικόνες και τα βίντεο «μπορούν να προκαλέσουν αμετάκλητη συναισθηματική, οικονομική και φήμη βλάβη – και δυστυχώς, οι γυναίκες επηρεάζονται δυσανάλογα».

Σε ένα tweet που καταδίκαζε τις εικόνες της Σουίφτ, τις περιέγραψε ως «σεξουαλική εκμετάλλευση». Η προτεινόμενη νομοθεσία του δεν έχει γίνει ακόμη νόμος.

Ο Ρεπουμπλικανός βουλευτής Τομ Κιν τζούνιορ δήλωσε: «Είναι σαφές ότι η τεχνολογία AI προχωρά πιο γρήγορα από τα απαραίτητα προστατευτικά κιγκλιδώματα. Είτε το θύμα είναι η Τέιλορ Σουίφτ είτε οποιοσδήποτε νέος στη χώρα μας, πρέπει να θεσπίσουμε δικλείδες ασφαλείας για να καταπολεμήσουμε αυτήν την ανησυχητική τάση».

Ο Κιν έχει υποστηρίξει το νομοσχέδιο του Μορέλ και εισήγαγε τον δικό του νόμο περί τεχνητής νοημοσύνης, του οποίου η εφαρμογή θα απαιτούσε όλο το περιεχόμενο που δημιουργείται από AI (συμπεριλαμβανομένων των πιο αβλαβών chatbots που χρησιμοποιούνται στις ρυθμίσεις εξυπηρέτησης πελατών, για παράδειγμα), να χαρακτηρίζεται ως τέτοιο.

Η ίδια η Τέιλορ Σουίφτ δεν έχει ακόμη μιλήσει δημόσια για τις κατασκευασμένες εικόνες που έκαναν τον γύρο του κόσμου.

Celebrity deepfakes: Οι διάσημοι στο στόχαστρο

Το πειστικό deepfake βίντεο ή ήχος έχει χρησιμοποιηθεί και σε παλαιότερες περιπτώσεις για τη μίμηση προσώπων υψηλού προφίλ, ιδιαίτερα πολιτικών όπως ο Ντόναλντ Τραμπ και ο Τζο Μπάιντεν, καθώς και καλλιτέχνες όπως ο Drake και ο Weeknd. Τον Οκτώβριο του 2023, ο Τομ Χανκς είπε στους ακολούθους του στο Instagram να μην παρασυρθούν από μια ψεύτικη διαφήμιση οδοντιατρικής που παρουσίαζε deepfake ομοίωμά του.

Ωστόσο, η τεχνολογία στοχεύει σε συντριπτική πλειοψηφία τις γυναίκες και μάλιστα με σεξουαλικά κακοποιητικό τρόπο: μια μελέτη του 2019 από την DeepTrace Labs, η οποία αναφέρεται στην προτεινόμενη νομοθεσία των ΗΠΑ, διαπίστωσε ότι το 96% του deepfake περιεχομένου βίντεο ήταν πορνογραφικό υλικό χωρίς συναίνεση.

Το ζήτημα έχει επιδεινωθεί σημαντικά από το 2019. Η ψεύτικη πορνογραφία, όπου το λογισμικό επεξεργασίας φωτογραφιών χρησιμοποιείται για την τοποθέτηση του προσώπου ενός ατόμου που δεν συναινεί σε μια υπάρχουσα πορνογραφική εικόνα, είναι ένα μακροχρόνιο πρόβλημα. Αλλά ένα νέο σύνορο έχει ανοίξει χάρη στην πολυπλοκότητα της τεχνητής νοημοσύνης, η οποία μπορεί να χρησιμοποιηθεί για τη δημιουργία εντελώς νέων και πολύ πειστικών εικόνων, μεταξύ άλλων με τη χρήση απλών εντολών κειμένου.

«Το να προσπαθείς να προστατευτείς από το διαδίκτυο είναι χαμένη υπόθεση»

Οι γυναίκες υψηλού προφίλ κινδυνεύουν ιδιαίτερα. Το 2018, η Σκάρλετ Γιόχανσον μίλησε για το φαινόμενο της ευρέως διαδεδομένης ψεύτικης πορνογραφίας με θύμα την ίδια: «Δυστυχώς έχω βρεθεί σε αυτόν τον δρόμο πολλές, πολλές φορές. Το γεγονός είναι ότι το να προσπαθείς να προστατευτείς από το διαδίκτυο και τη φθορά του είναι βασικά μια χαμένη υπόθεση, ως επί το πλείστον».

Η κυβέρνηση του Ηνωμένου Βασιλείου κατέστησε παράνομη τη μη συναινετική deepfake πορνογραφία τον Δεκέμβριο του 2022, σε μια τροπολογία στο Νομοσχέδιο για την Ασφάλεια στο Διαδίκτυο που επίσης απαγόρευσε κάθε εικόνα που λαμβάνεται χωρίς τη συγκατάθεση κάποιου, συμπεριλαμβανομένων των αποκαλούμενων φωτογραφιών «downblouse».

(Με πληροφορίες του Guardian και του The Verge)