Ίντερνετ, deepfakes και «ανάσταση» νεκρών

Τα deepfakes είναι εικόνες και βίντεο στα οποία ένα άτομο έχει αντικατασταθεί με κάποιο άλλο που του μοιάζει. Παρόλο που η πράξη παραποίησης περιεχομένου δεν είναι καινούργια, στα deepfakes οι ηλεκτρονικοί πλαστογράφοι αξιοποιούν τεχνικές τεχνητής νοημοσύνης για τον χειρισμό ή τη δημιουργία οπτικού και ηχητικού υλικού με το οποίο δημιουργούν πορνογραφικά βίντεο διασημοτήτων, πορνό ερωτικής αντιζηλίας και εκδίκησης (revenge porno), ψεύτικες ειδήσεις, φάρσες και οικονομικές κομπίνες.

Από το 1990 άρχισαν να κατασκευάζονται λογισμικά, όπως το Video Rewrite που τροποποιούσε σε υπάρχοντα βίντεο τα λόγια που εκστόμιζε το άτομο χωρίς να φαίνεται ότι έχουν ληφθεί από άσχετο ηχητικό ντοκουμέντο. Το πρόγραμμα Face2Face, που εφαρμόστηκε το 2016, τροποποιεί τα βίντεο του προσώπου ενός ατόμου έτσι ώστε να μιμείται τις εκφράσεις του προσώπου ενός άλλου ατόμου σε πραγματικό χρόνο. Τον Αύγουστο του 2018, ερευνητές στο πανεπιστήμιο του Μπέρκλεϋ εισήγαγαν μια ηλεκτρονική εφαρμογή, χρησιμοποιώντας τεχνητή νοημοσύνη, που μπορεί να δημιουργήσει την εντύπωση χορευτικής ικανότητας. Έτσι, η εφαρμογή deepfake επεκτάθηκε σε ολόκληρο το σώμα, όχι μόνο στο κεφάλι ή σε μέρη του προσώπου. Επίσης, με την τεχνική των deepfakes μπορεί να εγχυθεί ή να αφαιρεθεί ένας όγκος του πνεύμονα στην τρισδιάστατη αξονική τομογραφία ενός ασθενούς. Το αποτέλεσμα στο εν λόγω πείραμα ήταν τόσο πειστικό που ξεγέλασε τρεις ακτινολόγους και ένα μηχάνημα ανίχνευσης καρκίνου του πνεύμονα.

Από τον Ιανουάριο του 2018, κυκλοφόρησε η εφαρμογή FakeApp για επιτραπέζιους υπολογιστές, που επιτρέπει στους χρήστες να δημιουργούν και να μοιράζονται βίντεο όπου τα πρόσωπα είναι ανταλλάξιμα. Από το 2019, το FakeApp αντικαταστάθηκε από εναλλακτικές λύσεις ανοιχτού κώδικα, όπως το Faceswap, το DeepFaceLab που βασίζεται σε γραμμή εντολών και σε εφαρμογές που βασίζονται στον Ιστό, όπως το DeepfakesWeb.com. Μεγάλες εταιρείες αρχίζουν να χρησιμοποιούν deepfakes: ο γίγαντας των εφαρμογών για κινητά Momo δημιούργησε την εφαρμογή Zao, η οποία επιτρέπει στους χρήστες να τοποθετούν το πρόσωπό τους σε τηλεοπτικά και κινηματογραφικά κλιπ με μία μόνο εικόνα. Η Zao, κινεζικής κατασκευής, επιτρέπει στους χρήστες να αντικαταστήσουν τα πρόσωπά τους με εκείνα των χαρακτήρων σε σκηνές από ταινίες και τηλεοπτικές εκπομπές όπως το «Romeo + Juliet» και το «Game of Thrones». Η ιαπωνική εταιρεία AI DataGrid επινόησε ένα ολοκληρωμένο deepfake που μπορεί να δημιουργήσει ένα άτομο από το μηδέν. Εννοείται ότι οι εταιρείες δεν σκοπεύουν να τα χρησιμοποιήσουν για παράνομους σκοπούς, αλλά για παρουσιάσεις μόδας και προϊόντων ένδυσης.

Τα οπτικά deepfakes συνοδεύονται από deepfakes ήχου και λογισμικό AI ικανό να ανιχνεύει deepfakes και να κλωνοποιεί μετά από 5 δευτερόλεπτα χρόνου ακρόασης. Μια εφαρμογή deepfake για κινητά, η Impressions, κυκλοφόρησε τον Μάρτιο του 2020. Ήταν η πρώτη εφαρμογή για τη δημιουργία διασημοτήτων βίντεο deepfake από κινητά τηλέφωνα.

Η τεχνολογία deepfakes μπορεί να χρησιμοποιηθεί για την «ανάσταση» ατόμων που έχουν πεθάνει. Στις 29 Οκτωβρίου 2020, η Kim Kardashian δημοσίευσε ένα βίντεο του πατέρα της Robert Kardashian με τεχνολογία deepfake - το ολόγραμμα δημιούργησε η εταιρεία Kaleida. Μια άλλη περίπτωση αναστημένου νεκρού ήταν εκείνη του Joaquin Oliver, ενός θύματος πυροβολισμού στη Φλόριντα, στο πλαίσιο της εκστρατείας εναντίον της οπλοφορίας. Στο μήνυμα deepfake, ο Joaquin να ενθαρρύνει τους θεατές να ψηφίσουν κατά της οπλοφορίας.

Η πορνογραφία deepfake καταλαμβάνει το 96% όλων των deepfakes. Το πρώτο που τράβηξε την προσοχή ήταν το deepfake της Daisy Ridley, αλλά, στην πραγματικότητα τα περισσότερα θύματα είναι αστέρια της K-pop: η Νότια Κορέα έχει τους περισσότερους deepfakers. Εκτός από τη σκληρή πορνογραφία, μέσω μιας εφαρμογής που είναι συμβατή με τα Windows και το Linux και ονομάζεται DeepNude, μπορούν να αφαιρεθούν τα ρούχα από εικόνες γυναικών.

Μεταξύ των πιο γνωστών deepfakes που έχουν εμφανιστεί είναι βίντεο με τον Βλαντιμίρ Πούτιν να προειδοποιεί τους Αμερικανούς για τις παρεμβάσεις του στις αμερικανικές εκλογές, το οποίο εκατοντάδες χιλιάδες άνθρωποι θεώρησαν αυθεντικό. Τα deepfakes έχουν χρησιμοποιηθεί για ψηφιακά κατασκευασμένους ή αλλοιωμένους ανθρώπους σε κινηματογραφικές ταινίες: ένα παράδειγμα είναι ο «νεαρός» Harrison Ford στο «Solo: A Star Wars Story» (2018). Καθώς η τεχνολογία deepfake εξελίσσεται, η Disney έχει βελτιώσει τα οπτικά εφέ τους χρησιμοποιώντας τεχνολογία ανάλυσης προσώπων deepfake υψηλής ανάλυσης.

Οι φωτογραφίες deepfake μπορούν να χρησιμοποιηθούν για τη δημιουργία sockpuppets, ανύπαρκτων ατόμων, τα οποία δραστηριοποιούνται τόσο στο διαδίκτυο όσο και στα παραδοσιακά μέσα. Φαίνεται ότι δημιουργήθηκε μια φωτογραφία deepfake για ένα ανύπαρκτο άτομο με το όνομα Oliver Taylor, που περιγράφεται ως φοιτητής πανεπιστημίου στη Βρετανία. Το τεχνητό αυτό πρόσωπο αρθρογραφούσε σε αρκετές εφημερίδες και ήταν ενεργό στα social media. Τέτοια deepfakes ανύπαρκτων ατόμων σε κοινωνικά δίκτυα έχουν εμφανιστεί ως μέρος της ισραηλινής προπαγάνδας: η σελίδα στο Facebook «Zionist Spring» παρουσίαζε φωτογραφίες ανύπαρκτων προσώπων μαζί με τις «μαρτυρίες» τους, με σκοπό να εξηγήσουν γιατί στηρίζουν τον Μπέντζαμιν Νετανιάχου.

Τα deepfakes ήχου έχουν χρησιμοποιηθεί ως μέρος οικονομικών εγκλημάτων ξεγελώντας ανθρώπους ότι παίρνουν οδηγίες από ένα αξιόπιστο άτομο. Το 2019 ένας διευθύνων σύμβουλος μιας εταιρείας ενέργειας με έδρα το Ηνωμένο Βασίλειο έπεσε θύμα απάτης μέσω τηλεφώνου όταν του ζητήθηκε να μεταφέρει 220.000 ευρώ σε έναν ουγγρικό τραπεζικό λογαριασμό από ένα άτομο που χρησιμοποίησε τεχνολογία deepfake ήχου για να πλαστογραφήσει τη φωνή του διευθύνοντος συμβούλου της μητρικής εταιρείας στην οποία εργαζόταν ο άνθρωπος.

Εφόσον τα deepfakes μπορούν να δυσφημίσουν, να πλαστογραφήσουν και να διαδώσουν παραπληροφόρηση, έχουν δημιουργηθεί εφαρμογές που τα εντοπίζουν, ενώ σε ορισμένες χώρες (ΗΠΑ, Κίνα) έχουν απαγορευτεί. Αλλά το ζήτημα είναι ευρύτερο και βαθύτερο: Ο ψηφιακός κόσμος έχει απελευθερώσει την ανάγκη των ανθρώπων για εναλλακτικές ζωές, εναλλακτικά πρόσωπα και πολλαπλές ταυτότητες.