Deepfakes: Το πιο απειλητικό ή το πιο διασκεδαστικό περιεχόμενο του διαδικτύου

Σε όποια πλευρά του TikTok και αν ανήκετε -ντροπιαστική ή μη- είναι πιθανό να έχετε δει τον Tom Cruise να παίζει ακουστική κιθάρα με ένα απλό λευκό μπλουζάκι και ένα πράσινο καπέλο του μπέιζμπολ ή να τον έχετε πετύχει να κοιτάζει ημίγυμνο τον εαυτό του στον καθρέφτη του μπάνιου. Αν από την άλλη είστε από αυτούς που σνομπάρουν το TikTok, τότε ίσως στο Instagram να πέσατε πάνω σε εκείνο το καγκουρό που βρισκόταν στα χέρια του πυροσβέστη, όταν ξέσπασαν οι πυρκαγιές στη Ρόδο. Σε άλλα νέα, μόλις κυκλοφόρησε ένα βίντεο όπου ο Tom Hanks προτείνει ένα οδοντιατρικό πρόγραμμα.

Deepfakes: Τι είναι και ποιος το ξεκίνησε

Όμως ο Tom Cruise δεν είναι στο TikTok και η Ρόδος δεν έχει καγκουρό. Την ίδια στιγμή, ο Tom Hanks προχώρησε σε καταγγελία για τη χρήση της εικόνας του στην οδοντιατρική διαφήμιση. Όλα τα παραπάνω ανήκουν στην κατηγορία των deepfakes. Ο όρος "deepfake" προκύπτει από τον συνδυασμό των λέξεων "deep learning" και "fake" και σχεδόν τα πάντα γύρω από αυτό είναι αμφιλεγόμενα. Εμφανίστηκε για πρώτη φορά στο Reddit το 2017, όταν ένας χρήστης με το όνομα "deepfakes" άρχισε να μοιράζεται σχετικό περιεχόμενο, αξιοποιώντας τα πρόσωπα διάσημων ανθρώπων.

Τα βίντεο χρησιμοποιούν τεχνικές υπολογιστών και ιδιαίτερα την τεχνολογία "deep learning," για να αλλοιώσουν φωτογραφίες και ήχους. Αρχικά, τα deepfakes έγιναν γνωστά από τη δημιουργία πορνογραφικού περιεχομένου με διάσημα πρόσωπα σε σώματα ηθοποιών ερωτικών ταινιών, τα "deepfake porn". Αυτό προκάλεσε τα πρώτα ηθικά ζητήματα και άνοιξε τον ασκό του αιόλου.

Πώς τα deepfakes παραμορφώνουν την πραγματικότητα

Πώς ακριβώς όμως λειτουργούν τα deepfakes; Πρώτα συλλέγουν έναν μεγάλο όγκο δεδομένων με εικόνες ή βίντεο του προσώπου-στόχος για να εκπαιδεύσουν το μοντέλο μάθησης. Ακολουθεί το στάδιο της εκπαίδευσης των Νευρωνικών Δικτύων. Τα νευρωνικά δίκτυα εκπαιδεύονται για να μάθουν τις εκφράσεις του προσώπου, τις κινήσεις και τα πρότυπα ομιλίας του στόχου. Ένα δίκτυο που ονομάζεται γεννητικό ή στα αγγλικά "generator", δημιουργεί το ψεύτικο περιεχόμενο, ενώ ένα άλλο δίκτυο, ο "discriminator," αξιολογεί το δημιουργημένο περιεχόμενο έναντι του πραγματικού και το κάνει να μοιάζει όσο πιο ρεαλιστικό γίνεται. Ήρθε η στιγμή να αντικατασταθεί το πρόσωπο. Στην περίπτωση των deepfakes μέσα από την αντικατάσταση προσώπου, το μοντέλο μαθαίνει να χαρτογραφεί το πρόσωπο του στόχου στο αρχικό υλικό, ευθυγραμμίζοντας και αναμειγνύοντας το πρόσωπο με το σώμα. Απαραίτητος είναι φυσικά ο συγχρονισμός των χειλιών, το επόμενο βήμα στο χτίσιμο ενός deepfake. Το αποτέλεσμα: ένα εξωπραγματικά πειστικό βίντεο. Tο άτομο φαίνεται να λέει ή να κάνει πράγματα που μπορεί να μην έχει κάνει ποτέ στη ζωή του.

Tα deepfakes είναι επικίνδυνα;

Θα μπορούσε κανείς να πει ότι τα deepfakes είναι όπως τα δημοφιλή Ιnstagram φίλτρα. Σε αντίθεση όμως με αυτά, τα deepfakes στην παγκόσμια αγορά ανίχνευσης είχαν αξία της τάξης των 3,86 δισεκατομμυρίων δολαρίων το 2022, η οποία αναμένεται να επεκταθεί με ρυθμό ανάπτυξης περίπου 42% ετησίως μέχρι το 2026, σύμφωνα με έρευνα της παγκόσμιας εταιρείας HSRC.

Πριν λίγους μόνο μήνες, μια ψεύτικη εικόνα μιας έκρηξης κοντά στο Πεντάγωνο διαδόθηκε στο Twitter. Αυτή η fake εικόνα, που πιθανότατα προήλθε από μια εφαρμογή τεχνητής νοημοσύνης, προκάλεσε για λίγο μια πτώση του Δείκτη Dow Jones Industrial κατά 85 μονάδες. Ο λογαριασμός Deep Tom Cruise συγκέντρωσε 5,1 εκατομμύρια ακόλουθους του TikTok. Η εταιρεία πίσω από το Deep Tom Cruise ονομάζεται Metaphysic και συγκέντρωσε ήδη από τη δημιουργία της 7,5 εκατομμύρια δολάρια. «Ο Deep Tom Cruise άλλαξε τα πάντα» λέει ο CEO της Metaphysic, Tom Graham. Πλέον η Metaphysic είναι κυριολεκτικά ηγέτης στο χώρο της δημιουργίας deepfake.

Deepfake ψυχαγωγία: Είναι πραγματικά αθώα; 

Η Deepdub, μια ισραηλινή εταιρεία που χρησιμοποιεί τεχνητή νοημοσύνη για να κάνει τους ηθοποιούς και τους παρουσιαστές να μιλούν διαφορετικές γλώσσες, συγκέντρωσε 20 εκατομμύρια δολάρια το 2022. Επίσης, η Deep Voodoo, μια startup που ιδρύθηκε από τους δημιουργούς του South Park, συγκέντρωσε ανάλογο ποσό πέρυσι μόνο από τη παραγωγή εφέ για ένα μουσικό βίντεο στο οποίο ο Kendrick Lamar μεταμορφώθηκε στον OJ Simpson, τον Kanye West και σε άλλους καλλιτέχνες. Το περασμένο Απρίλιο του Spotify και η Apple αφαίρεσαν ένα τραγούδι που μιμείται τον Drake και το The Weeknd από τις υπηρεσίες τους, ενώ το Spotify στη συνέχεια αφαίρεσε το άλλα δεκάδες χιλιάδες κομμάτια AI. 

Ωστόσο, στην περίπτωση της βιομηχανίας της ψυχαγωγίας, η αξιοποίηση της τεχνολογίας deepfakes μπορεί να έχει θετικές εφαρμογές, όπως τον συγχρονισμό ταινιών σε διάφορες γλώσσες χωρίς την ανάγκη επανεγγραφής σκηνών ή τη διατήρηση ιστορικών αρχείων μέσω της βελτίωσης του ηχο-οπτικού περιεχομένου. Πράγματι, πολλές deepfake startups έχουν «αθώους» σκοπούς. Μήπως όμως εξακολουθούν να προβληματίζουν ακόμη και υπό αυτούς τους όρους;

Η εξέλιξη των deepfakes και τα όπλα εναντίον τους 

Το μέλλον των deepfakes είναι πολύπλοκο και εξελισσόμενο. Η τεχνολογία deepfake έχει δυναμική που μπορεί να επηρεάσει διάφορες πτυχές της κοινωνίας και γίνεται φθηνότερη και ευκολότερη χάρη στην τεχνητή νοημοσύνη. Καθώς οι αλγόριθμοι της τεχνητής νοημοσύνης και της μηχανικής μάθησης συνεχίζουν να προχωρούν, τα deepfake είναι πιθανό να γίνουν πιο πειστικά, άρα και να γίνει όλο και πιο δύσκολο να ανιχνευθούν. Πολιτικά, τα deepfakes έχουν τη δύναμη να δημιουργήσουν ψευδείς αφηγήσεις, που αποδίδονται σε δημόσια πρόσωπα, όπως ακριβώς συνέβη με την περίπτωση του Barack Obama.

Ευτυχώς όσο η τεχνολογία deepfakes εξελίσσεται, εξελίσσονται και οι προσπάθειες για τον εντοπισμό τους. Ορισμένες εταιρείες και ερευνητές αναπτύσσουν προηγμένους αλγορίθμους και εργαλεία για αυτόν τον σκοπό. Εκστρατείες ενημέρωσης του κοινού και εκπαιδευτικά προγράμματα διεξάγονται για να διδάξουν στους ανθρώπους πώς να αναγνωρίζουν τα deepfakes και πώς να αξιολογούν κριτικά ψηφιακό περιεχόμενο. Τεχνικές, όπως η υδατογράφηση, η επαλήθευση μέσω blockchain και η αυθεντικοποίηση μέσω υλικού εξετάζονται ως μέτρα για να διασφαλιστεί η αξιοπιστία του ψηφιακού περιεχομένου.

Πολλές εταιρείες μέσων κοινωνικής δικτύωσης, συμπεριλαμβανομένων των Meta και Twitch, έχουν απαγορεύσει τα deepfakes που εξαπατούν τους χρήστες. Η Meta, η οποία κατέχει το Facebook και το Instagram, διεξήγαγε έναν διαγωνισμό το 2021 για την ανάπτυξη προγραμμάτων ικανών να εντοπίζουν τα βαθιά ψεύτικα και αποτέλεσμα ένα εργαλείο που θα μπορούσε να τα εντοπίσει μόνο σε ένα ποσοστό του 83 τοις εκατό.

Art in Deepfake: Στρατευμένη τέχνη ή παραπλάνηση; 

Ορισμένοι καλλιτέχνες χρησιμοποιούν την τεχνολογία deepfake για να δημιουργήσουν καινοτόμα έργα τέχνης που προβληματίζουν σε σχέση  με τη δύναμη τους. Ο Bill Posters έγινε γνωστός για το έργο του "Spectre", το οποίο περιλάμβανε βίντεο deepfake με παγκόσμιους ηγέτες, όπως ο Donald Trump και ο Kim Jong-un. Οι τελευταίοι διαβίβαζαν μηνύματα που σχετίζονται με την κλιματική αλλαγή και άλλα παγκόσμια προβλήματα. Εκφράσεις προσώπου, κινήσεις των χεριών ήταν ολόιδιες με αυτές που των πραγματικών προσώπων.

Τα βίντεο κοινοποιήθηκαν στα μέσα κοινωνικής δικτύωσης και παρουσιάστηκαν σε εκθέσεις τέχνης. Το "Spectre" είχε ως στόχο να ευαισθητοποιήσει, αλλά τελικά και αυτό τελικά το μόνο που κατάφερε είναι να δημιουργήσει σοβαρές ανησυχίες για τα όρια μεταξύ πραγματικότητας και φαντασίας. «Ίσως αυτά τα “ψεύτικα” εργαλεία μπορούν να δημιουργήσουν κάποιες πραγματικές σκέψεις και συναισθήματα» αναφέρει σε συνέντευξη του ο ClownVamp, o επιμελητής της μεγαλύτερης έκθεσης τεχνητής νοημοσύνης στον κόσμο, που παρουσιάστηκε τον περασμένο Φεβρουάριο, με τίτλο “Deep Fake”.