Φάκελος «Κίνα»: Ο ολοκληρωτισμός του μέλλοντος

Μία σπονδυλωτή έρευνα για την αναδυόμενη υπερδύναμη του 21^ου αιώνα.
Η εγχώρια και η παγκόσμια εξάπλωση ενός ολοκληρωτικού καθεστώτος.
Προκλήσεις ασφαλείας – για τη Δύση, για τη δημοκρατία, για την έννομη τάξη και τα ανθρώπινα δικαίωματα, για την παγκόσμια ειρήνη.

* * *

Τα τελευταία χρόνια, η κυβέρνηση της Κίνας αναπτύσσει και εφαρμόζει ένα μοντέλο κοινωνικής οργάνωσης που βασίζεται στη συνεχή παρακολούθηση των πολιτών και τον πλήρη έλεγχό τους από το κράτος. Μέσω ενός ολοκληρωμένου συστήματος επιτήρησης με εφαρμογές Τεχνητής Νοημοσύνης, επιδιώκει να επηρεάσει ή να ελέγξει κάθε πτυχή της καθημερινής ζωής και της ατομικής ταυτότητας, και να επιβάλλει ένα ολοκληρωτικό μοντέλο διακυβέρνησης χωρίς προηγούμενο στην ανθρώπινη ιστορία.

Μια ενδεικτική μόνο ανασκόπηση πρόσφατων αναφορών και περιστατικών αρκεί για να αντιληφθεί κάποιος ότι η Κίνα βρίσκεται αντιμέτωπη με μια αναδυόμενη τεχνοδυστοπία. Το πρόβλημα δεν αφορά μόνο την ποσοτική εμβέλεια των τεχνολογιών επιτήρησης, αλλά και το μικροεπίπεδο: παρακολουθείται και ελέγχεται η καθημερινή ζωή των πολιτών με τρόπους που είναι αδιανόητοι για τους περισσότερους ανθρώπους στη Δύση.

Άλλα αυταρχικά καθεστώτα ειδικά στον «Παγκόσμιο Νότο» (στον πρώην «αναπτυσσόμενο κόσμο») ενδιαφέρονται για αυτό το ολοκληρωτικό μοντέλο διακυβέρνησης και τις τεχνολογίες που το υποστηρίζουν. Η Κίνα φαίνεται να είναι πρόθυμη να εξάγει αυτή την τεχνολογία και τεχνογνωσία και σε άλλες χώρες.

Τεχνητή Νοημοσύνη

Ο Σι Τζινπίνγκ έχει δηλώσει ότι θέλει η Κίνα να έχει επιτύχει παγκόσμια υπεροχή στην Τεχνητή Νοημοσύνη (ΤΝ) μέχρι το 2030, ωθώντας την στην «αιχμή της επιτήρησης», δημιουργώντας «ένα ολοκληρωμένο ψηφιακό σύστημα κοινωνικού ελέγχου, που θα περιπολείται από προγνωστικούς [precog] αλγόριθμους που εντοπίζουν πιθανούς διαφωνούντες σε πραγματικό χρόνο» [Atlantic]. Η κυβέρνηση έχει καταλάβει ότι «η ψηφιοποίηση της κινεζικής κοινωνίας ενισχύει την ικανότητα του κράτους να παρακολουθεί και να ελέγχει τους 1,4 δισεκατομμύρια ανθρώπους της χώρας» [JoD]. Η επίτευξη παγκόσμιας ηγεσίας στην ΤΝ είναι στρατηγικός στόχος της κυβέρνησης του Σι [CNAS] και αυτό έχει σημαντικές επιπτώσεις όχι μόνο στο εσωτερικό της χώρας, αλλά και για την παγκόσμια ασφάλεια και τον τρόπο με τον οποίο διεξάγεται ο πόλεμος στον 21^ο αιώνα.

Η ενσωμάτωση υλικού από κάμερες αναγνώρισης προσώπων, βιομετρικών δεδομένων και δεδομένων κινητής τηλεφωνίας μέσω της ΤΝ επιτρέπει στην κυβέρνηση να λαμβάνει προληπτικά μέτρα για να σταματήσει διαδηλώσεις και να καταστείλει την πολιτική διαφωνία πριν αυτή συγκεντρώσει κρίσιμη μάζα [JoD].

Κάμερες παρακολούθησης

Η Κίνα είναι η πιο επιτηρούμενη χώρα στον κόσμο. Περισσότερες από τις μισές από τις ένα δισεκατομμύριο κάμερες παρακολούθησης (CCTV) στον κόσμο βρίσκονται στην Κίνα [Comparitech].

Το 2015, η κυβέρνηση ανακοίνωσε την εφαρμογή σε ολόκληρη τη χώρα ενός προγράμματος επιτήρησης - Sharp Eyes - χρησιμοποιώντας κάμερες ασφαλείας σε αστικές και αγροτικές περιοχές, εξοπλισμένες με αυτοματοποιημένους αλγόριθμους αναγνώρισης προσώπου. Στόχος ήταν να επιτευχθεί 100% κάλυψη όλων των δημόσιων χώρων [CSET]. Ο αριθμός των CCTV πλησιάζει πλέον τα 600 εκατομμύρια, δηλ. περίπου μία κάμερα για κάθε δύο πολίτες [Vice].

Ο Ντενγκ Γιουφένγκ – ένας Κινέζος καλλιτέχνης - πέρασε έξι μήνες σχεδιάζοντας μια διαδρομή προς τη Λεωφόρο της Ευτυχίας στο κέντρο του Πεκίνου για να αποφύγει τις κάμερες παρακολούθησης. Τελικά το να αποφύγει εντελώς την ανίχνευση αποδείχθηκε αδύνατο. Οι εθελοντές που συντόνισε ο Ντενγκ χρειάστηκαν περισσότερες από δύο ώρες για να περπατήσουν μια απόσταση 1,1 χιλιομέτρου προκειμένου να κρύψουν την ταυτότητά τους [Times, Sixth Tone].

Βιομετρικά δεδομένα και αναγνώριση προσώπων

Η Κίνα είναι ο πιο ανεξέλεγκτος και παρεμβατικός χρήστης βιομετρικών δεδομένων στον κόσμο, έχοντας τη χειρότερη βαθμολογία στις διαδικασίες συλλογής και χειρισμού τους, με έλλειψη ασφαλιστικών δικλείδων που να προστατεύουν τους πολίτες από τη χρήση των δεδομένων από κρατικές αρχές και ιδιωτικούς εργοδότες [SCMP].

Ζωντανά πλάνα από κάμερες παρακολούθησης, σαρωτές και κάμερες κινητών τηλεφώνων, μαζί με τεχνολογίες αναγνώρισης προσώπου και βάσεις δεδομένων με πρόσωπα και δακτυλικά αποτυπώματα συνδυάζονται για την καταγραφή κάθε κίνησης κάθε πολίτη σε μια πόλη. Οτιδήποτε συμβαίνει στον δημόσιο χώρο μπορεί να καταγραφεί μέσω του δικτύου SkyNet – μια βασική υποδομή επιτήρησης που αναπτύσσει η κυβέρνηση (το όνομα προέρχεται από την ταινία Ο Εξολοθρευτής).

Η βάση δεδομένων της αστυνομίας με υπόπτους, υπόδικους και εγκληματίες συνδέεται με το σύστημα αναγνώρισης προσώπων. Σύμφωνα με τον Xie Yinan, αντιπρόεδρο της Megvii Technology Co Ltd, η οποία χρηματοδοτήθηκε από το κράτος για την ανάπτυξη του SkyNet, «ό,τι συμβαίνει στον δημόσιο χώρο μπορεί να καταγραφεί. Μπορούμε να γνωρίζουμε ακριβώς τι συμβαίνει κάθε δευτερόλεπτο, σε κάθε γωνιά της πόλης [...] Μπορούμε να καταγράψουμε κάθε πρόσωπο σε πραγματικό χρόνο. Έτσι, αν υπάρχει κάποιος εγκληματίας εκεί έξω, υπάρχει το "κόκκινο κουτί", οπότε [στέλνεται αυτόματα] μια ειδοποίηση στο αστυνομικό τμήμα" [Vice]. Το 2018 η αστυνομία κατάφερε να αναγνωρίσει έναν ύποπτο μέσα σε ένα πλήθος 60.000 ατόμων κατά τη διάρκεια μιας συναυλίας ποπ μουσικής [Business Insider].

Οι τεχνολογίες αναγνώρισης συναισθημάτων (emotion recognition), όπως το σύστημα που αναπτύχθηκε από την Taigusys, υπερβαίνουν την αναγνώριση προσώπων: καταγράφοντας εκφράσεις θυμού, λύπης, ευτυχίας και πλήξης, και συνδυάζοντας αυτές με άλλα βιομετρικά δεδομένα, όπως η θερμοκρασία του σώματος, οι κινήσεις των μυών του προσώπου, ο τόνος της φωνής και οι κινήσεις του σώματος, μπορούν να διαπιστώσουν τα συναισθήματα ενός ατόμου [Guardian]. Μεταξύ άλλων πιθανών εφαρμογών, αυτές οι τεχνολογίες χρησιμοποιούνται σε φυλακές για την παρακολούθηση των κρατουμένων, οι οποίοι, γνωρίζοντας ότι βρίσκονται υπό συνεχή παρακολούθηση, τείνουν να είναι πιο υπάκουοι. Εργοστάσια, κρατικές επιχειρήσεις αλλά και ο στρατός άρχισαν επίσης να παρακολουθούν την εγκεφαλική δραστηριότητα των εργαζομένων χρησιμοποιώντας «καπέλα ανάγνωσης του μυαλού» για να εντοπίσουν ενδείξεις οργής, άγχους ή κατάθλιψης στον χώρο εργασίας [DM].

Ο συνδυασμός των CCTV και των βιομετρικών δεδομένων μέσω συστημάτων όπως το SkyNet έχει πολλές άλλες εφαρμογές στην καθημερινή ζωή. Οι χώροι εργασίας και οι εργατικές κατοικίες που ανήκουν στο κράτος είναι πλέον εξοπλισμένοι έτσι ώστε να παρακολουθούν και να ελέγχουν σε πραγματικό χρόνο ποιος εισέρχεται ή εξέρχεται και πόσο χρόνο ξοδεύει στον κάθε χώρο. Έξω από κάποιες δημόσιες τουαλέτες, τα μηχανήματα αυτόματης πώλησης σκανάρουν το πρόσωπο ενός χρήστη και μοιράζουν μια μικρή ποσότητα χαρτιού υγείας (το κάθε άτομο δικαιούται χαρτί μόνο μία φορά), ώστε να μειωθεί η σπατάλη. Κάμερες παρακολούθησης σκανάρουν τα πρόσωπα των πεζών που διασχίζουν τον δρόμο με κόκκινο και συνδέονται με βάσεις δεδομένων των αρχών για να τους ταυτοποιήσουν. Αμέσως μετά προβάλλουν τα πρόσωπά τους σε γιγαντοοθόνες ώστε να τους ντροπιάζουν δημοσίως [Vice, DM].

Εφαρμογές κινητών και καταγραφή δεδομένων

Στην Κίνα υπάρχουν πάνω από 1 δισεκατομμύριο κινητά τηλέφωνα, τα οποία καταγράφουν το ιστορικό περιήγησης στο διαδίκτυο, τους όρους που χρησιμοποιεί ο χρήστης σε μηχανές περιήγησης, τις πληρωμές που κάνει. Όλα αυτά αρχειοθετούνται με τον ακριβή χρόνο και τη γεωγραφική τοποθεσία στην οποία έγιναν. Επιπλέον, ένας νέος κανονισμός απαιτεί από τις εταιρείες τηλεπικοινωνιών να σκανάρουν το πρόσωπο οποιουδήποτε εγγράφεται για υπηρεσίες κινητής τηλεφωνίας. Εταιρείες όπως η Hanwang και η SenseTime ισχυρίζονται ότι μπορούν να αναγνωρίσουν άτομα ακόμα και όταν φορούν μάσκες προσώπου [Atlantic]. Σύμφωνα με έρευνα των New York Times, η Apple έχει κάνει σημαντικές παραχωρήσεις στην κινεζική κυβέρνηση προκειμένου να επεκτείνει τις δραστηριότητές της στη χώρα, συμπεριλαμβανομένης της παραχώρησης στις κινεζικές αρχές πρόσβασης στα email, τις τοποθεσίες και τις επαφές εκατομμυρίων Κινέζων κατοίκων [NYT].

Η κινεζική κυβέρνηση έχει επίσης σχεδιάσει ή διεισδύσει απευθείας σε εφαρμογές και ιστοσελίδες για κινητά τηλέφωνα που χρησιμοποιούν εκατομμύρια πολίτες καθημερινά. Αυτό επιτρέπει στις αρχές να παρακολουθούν τις αναρτήσεις ενός χρήστη στα μέσα κοινωνικής δικτύωσης αλλά και τον γεωεντοπισμό του ίδιου και των μελών της οικογένειάς του. Επιπλέον, οι αρχές αναγκάζουν τους πολίτες να κατεβάζουν εφαρμογές που επιτρέπουν στην κυβέρνηση να παρακολουθεί τις φωτογραφίες και τα βίντεό τους· καταγράφουν τις αγοραστικές συνήθειες των καταναλωτών αναλύοντας δεδομένα που συλλέγονται μέσω μεγάλων καταστημάτων λιανικής όπως η Alibaba∙ σταματάνε τυχαίους πεζούς για να ελέγξουν τα τηλέφωνα και τους φορητούς υπολογιστές τους σε περίπτωση που έχουν κατεβάσει απαγορευμένες εφαρμογές ή μηνύματα που θεωρούνται επικίνδυνα για το Κομμουνιστικό Κόμμα [BusinessInsider, BuzzFeed].

Το WeChat είναι η πιο δημοφιλής εφαρμογή κοινωνικής δικτύωσης στην Κίνα, με 1,2 δισεκατομμύρια ενεργούς χρήστες μηνιαίως. Οι νόμοι ασφαλείας της Κίνας υποχρεώνουν τη μητρική εταιρεία του WeChat να μοιράζεται τα δεδομένα των χρηστών με την κυβέρνηση. Επιπλέον, υπάρχουν εκτεταμένες ενδείξεις ότι το WeChat παρακολουθεί τις εικόνες και τα αρχεία που κοινοποιούνται στην πλατφόρμα - τόσο από εγχώριους όσο και ξένους λογαριασμούς - και χρησιμοποιεί το περιεχόμενο αυτό για να εκπαιδεύσει αλγόριθμους λογοκρισίας, οι οποίοι στη συνέχεια επιτρέπουν τη λογοκρισία εικόνων και λέξεων-κλειδιών για χρήστες εντός Κίνας [CitizenLab].

Σύμφωνα με πολλές έρευνες, οι κινεζικές αρχές εντοπίζουν, συλλέγουν και αποθηκεύουν εκατομμύρια συνομιλίες στο WeChat, ενώ υποκλέπτουν μηνύματα και από τις Ηνωμένες Πολιτείες και το εξωτερικό [NPR]. Το WeChat έχει γίνει «ένα από τα πιο ισχυρά εργαλεία στο οπλοστάσιο του Πεκίνου για την παρακολούθηση των πολιτών, τη λογοκρισία, και την τιμωρία των ανθρώπων που εκφράζουν δυσαρέσκεια με την κυβέρνηση» [WSJ]. Η κυβέρνηση χρησιμοποιεί τα δεδομένα αυτής της εφαρμογής για να δικαιολογήσει συλλήψεις και να απειλήσει πολίτες.

Το Study the Great Nation [«Μελέτα το Μεγάλο Έθνος»] είναι μια εφαρμογή που δημιουργήθηκε από το Κινεζικό Κομμουνιστικό Κόμμα και σχεδιάστηκε από τον όμιλο Alibaba. Από τα τέλη του 2019, η εφαρμογή είχε περισσότερους από 100 εκατομμύρια χρήστες, συμπεριλαμβανομένων Κινέζων εργαζομένων, φοιτητών και δημοσίων υπαλλήλων, που συχνά αντιμετωπίζουν πιέσεις από την κυβέρνηση για να μελετήσουν το περιεχόμενό της.

Η εφαρμογή χρησιμοποιείται για να διδάξει τη «Σκέψη του Σι Τζινπίνγκ» επιτρέποντας στο ΚΚΚ να ενισχύσει τον ιδεολογικό έλεγχο. Η εφαρμογή επιτρέπει στους χρήστες να κερδίζουν πόντους για δραστηριότητες όπως η παρακολούθηση ενός βίντεο του Σι ή η άριστη επίδοση σε κάποιο κουίζ σχετικά με την οικονομική του πολιτική [NYT]. Επιπλέον, μια ανάλυση της εφαρμογής αποκάλυψε κρυμμένα στοιχεία και «εκτεταμένες δυνατότητες καταγραφής» που επέτρεψαν στις αρχές να παρακολουθούν τη χρήση του και να συλλέγουν δεδομένα για τους χρήστες [Cure53, BBC].

Η παρακολούθηση δεν περιορίζεται στους Κινέζους πολίτες. Οι συνοριοφύλακες εγκαθιστούν κρυφά εφαρμογές παρακολούθησης στα τηλέφωνα τουριστών. Το λογισμικό μεταφέρει και αποθηκεύει τα προσωπικά στοιχεία των τουριστών, όπως μέιλ, γραπτά μηνύματα και στοιχεία των επαφών, ενώ μπορεί να χρησιμοποιηθεί και για την παρακολούθηση της κίνησης στον χώρο [Guardian].

Σύστημα κοινωνικής πίστωσης

Το σύστημα κοινωνικής πίστωσης της Κίνας (social credit system) - το οποίο, επί του παρόντος, είναι ένας συνδυασμός πολλών τέτοιων μηχανισμών που εφαρμόζονται από ιδιωτικές εταιρείες, τοπικές αρχές και το κράτος, παρά μία ενιαία συνεκτική εφαρμογή - είναι μια μέθοδος επιβράβευσης και τιμωρίας των πολιτών με βάση τη συμπεριφορά τους σε κάθε πτυχή της καθημερινής ζωής: από το φαγητό που τρώνε και το τι κάνουν στον ελεύθερο χρόνο τους, την οδηγική τους ικανότητα, την εργασιακή ηθική μέχρι το πώς ξοδεύουν τα χρήματά τους. Αν και το σύστημα δεν είναι ακόμη ολοκληρωμένο και πλήρως λειτουργικό, η κυβέρνηση σχεδιάζει να το καταστήσει υποχρεωτικό για όλους.

Σύμφωνα με κυβερνητικό έγγραφο του 2015, το σύστημα κοινωνικής πίστωσης είναι «ένα σημαντικό συστατικό μέρος του συστήματος της Σοσιαλιστικής οικονομίας της αγοράς και του συστήματος κοινωνικής διακυβέρνησης» και στοχεύει να ενισχύσει την ιδέα ότι «η τήρηση της εμπιστοσύνης είναι ένδοξη και η διακοπή της εμπιστοσύνης είναι επαίσχυντη» [BusinessInsider].

Η καθυστερημένη πληρωμή ενός λογαριασμού, μία παράβαση ενός φαναριού ή σήματος, μια ανάρτηση στα μέσα κοινωνικής δικτύωσης, η σπατάλη χρημάτων σε «επιπόλαιες αγορές» ή ακόμη και το να ξοδεύεις πολύ χρόνο σε βιντεοπαιχνίδια μπορούν να επηρεάσουν τη βαθμολογία κάποιου. Ένα θετικό σκορ στην αξιολόγηση της κοινωνικής πίστωσης προσφέρει οφέλη όπως προτεραιότητα στην υγειονομική περίθαλψη ή φθηνότερη πρόσβαση σε δημόσια στέγαση, ενώ ένα αρνητικό μπορεί να συνεπάγεται χαμηλότερες ταχύτητες στη διαδικτυακή σύνδεση, απαγόρευση κράτησης πτήσεων ή επιβίβασης σε τραίνα, ή συμπερίληψη σε μια «μαύρη λίστα» που επηρεάζει τις πιθανότητες κάποιος να βρει δουλειά ή ακόμη και να ντροπιαστεί δημόσια [Wired, BusinessInsider, CNBC, SCMP, Bloomberg]. Το 2018, 23 εκατομμύρια άνθρωποι μπήκαν στη μαύρη λίστα με αποκλεισμό από ταξίδια στο εξωτερικό απλώς και μόνο λόγω της χαμηλής αξιολόγησής τους στο σύστημα κοινωνικής πίστωσης [Fortune]. Ο Li Xiaolin, ένας δικηγόρος με έδρα το Πεκίνο, μπήκε στη μαύρη λίστα επειδή η συγγνώμη που ζήτησε σε κάποιο δικαστήριο θεωρήθηκε «ανειλικρινής». Χωρίς να μπορεί να αγοράσει εισιτήρια επιστροφής, έμεινε αποκλεισμένος 2.000 χλμ από το σπίτι του [Time].

Εκατοντάδες τέτοια συστήματα - με "μαύρες" και "κόκκινες" λίστες για κακή και καλή συμπεριφορά αντίστοιχα – εφαρμόζονται σε πόλεις της Κίνας [ACM]. Κάποιες μαύρες λίστες είναι διαθέσιμες στο διαδίκτυο με τα ονόματα, τις διευθύνσεις και τις φωτογραφίες των παραβατών. Το 2018, το Vice News πήρε συνέντευξη από την Zhou Aini, μία συνταξιούχο που τώρα εργάζεται ως «συλλέκτης πληροφοριών» σε ένα πρόγραμμα παρακολούθησης γειτόνων όπου τοπικοί πληροφοριοδότες πληρώνονται για να παρακολουθούν και να καταγράφουν τις συμπεριφορές των γειτόνων τους, με συνέπειες για την αξιολόγησή τους στο σύστημα κοινωνικής πίστωσης [Vice].

Σε ορισμένες πόλεις της Κίνας, αν καλέσεις στο τηλέφωνο κάποιον που είναι στη μαύρη λίστα ακούς μια σειρήνα και ένα ηχογραφημένο μήνυμα που λέει: «Προσοχή, αυτό το άτομο είναι στη μαύρη λίστα. Να είστε προσεκτικοί και να τους παροτρύνετε να ξεπληρώσουν τα χρέη τους». Όταν ένα άτομο που βρίσκεται στη μαύρη λίστα διασχίζει ορισμένες διασταυρώσεις στο Πεκίνο, η τεχνολογία αναγνώρισης προσώπου προβάλλει το πρόσωπό του και τον αριθμό ταυτότητάς του σε γιγαντοοθόνες [Time].

Και στη Δύση η καθυστέρηση στην πληρωμή λογαριασμών και πιστωτικών καρτών έχει συνέπειες για την πιστοληπτική ικανότητα ενός ατόμου ή μιας επιχείρησης. To εμπόριο και οι υπηρεσίες, από την Amazon και το Uber μέχρι το Airbnb και το TripAdvisor, βασίζονται στη «φήμη» παρόχων και πελατών. Ωστόσο, ο συνδυασμός μεγάλων δεδομένων με αλγοριθμικά μοντέλα και η επέκταση αυτού του μοντέλου σε όλες τις πτυχές της καθημερινής ζωής και της ανθρώπινης συμπεριφοράς έχει σημαντικές επιπτώσεις για τις πολιτικές ελευθερίες, όχι μόνο στην Κίνα, αλλά σε όλον τον κόσμο [Atlantic, GMC]. Οι νέες αυτές υποδομές παρέχουν σε αυταρχικές κυβερνήσεις τρόπους ελέγχου της καθημερινότητας, της εκπαίδευσης, της απασχόλησης και των προοπτικών των πολιτών με βάση τη συμμόρφωση τους με την ιδεολογία του εκάστοτε καθεστώτος.

Ένα ολοκληρωμένο σύστημα προληπτικής δράσης

Ενώ καθένα από αυτά τα συστήματα παρακολούθησης από μόνο του έχει σημαντικές επιπτώσεις στην ιδιωτική ζωή, την ελευθερία και τα ανθρώπινα δικαιώματα, η ενσωμάτωσή τους μέσω της Τεχνητής Νοημοσύνης έχει τη δυνατότητα να μεταμορφώσει σε βάθος τον έλεγχο που ασκεί ένα κράτος στους πολίτες του, αλλά και στους πολίτες άλλων κρατών.

Η κυβέρνηση του Σι στοχεύει να επιτύχει την πλήρη κάλυψη του δημόσιου χώρου μέσω βίντεο. Κάθε άτομο που εισέρχεται σε έναν δημόσιο χώρο θα είναι άμεσα αναγνωρίσιμο: η εφαρμογή ΤΝ θα το ταυτοποιεί συνδυάζοντας την εικόνα του με προσωπικά δεδομένα όπως η κάθε επικοινωνία του και η πρωτεϊνική δομή του σώματός του. Όλα αυτά μπορούν να συγκεντρωθούν και να υποβληθούν σε επεξεργασία μέσω τεχνολογιών όπως το City Brain – μια πλατφόρμα με ΤΝ που επιτρέπει νέες μορφές ολοκληρωμένης επιτήρησης, π.χ. συνδυάζοντας αυτές τις πληροφορίες για τα άτομα, με δεδομένα που συλλέγονται από αυτόνομα αυτοκίνητα (self-driving cars) των οποίων οι αισθητήρες παρέχουν στις αρχές ένα τρισδιάστατο μοντέλο της πόλης που ενημερώνεται σε πραγματικό χρόνο [Atlantic].

Ένα τέτοιο σύστημα θα μπορούσε επίσης να ενσωματώνει δεδομένα για τις συναισθηματικές καταστάσεις των χρηστών, για παράδειγμα τον εντοπισμό τάσεων μαζικής θλίψης ή θυμού, που αποτελούν δείκτες πολιτικής διαφωνίας. Συνδυάζοντας σημεία δεδομένων από ταξιδιωτικά αρχεία, κοινωνικές και επαγγελματικές συνδέσεις, συνήθειες ανάγνωσης και αγορές, οι αλγόριθμοι θα είναι σε θέση να προβλέψουν την πολιτική αντίσταση ενδεχομένως πριν καν συμβεί και μάλλον πριν έχει την ευκαιρία να κλιμακωθεί [Atlantic, BusinessInsider].

Σύμφωνα με μια πρόσφατη έρευνα, η επόμενη φάση αυτού του έργου είναι η αναγνώριση συναισθημάτων (emotional recognition) στα σχολεία, χρησιμοποιώντας ένα ολοκληρωμένο «σύστημα διαχείρισης συμπεριφοράς» που θα παρακολουθεί το εάν οι μαθητές φαίνονται χαρούμενοι, αναστατωμένοι, θυμωμένοι, φοβισμένοι ή αηδιασμένοι [ST]. Το κλειδί σε αυτήν την τεχνολογία μικροέκφρασης είναι ότι μπορεί να αναγνωρίσει 54 σύντομες, ακούσιες εκφράσεις που δημιουργεί το πρόσωπο «προτού ο εγκέφαλος έχει την ευκαιρία να ελέγξει τις κινήσεις του προσώπου».

Δοκιμή του συστήματος στην κοινότητα των Ουιγούρων

Πολλές από τις τεχνολογίες και τις μεθόδους που περιγράψαμε έχουν εφαρμοστεί στην κοινότητα των Μουσουλμάνων Ουιγούρων της επαρχίας Xinjiang, οι οποίοι έχουν συστηματικά διωχθεί, φυλακιστεί, υποβληθεί σε πλύση εγκεφάλου, βασανισθεί και δολοφονηθεί από τις αρχές της Κίνας: μια γενοκτονία σε αργή κίνηση την οποία θα εξετάσουμε σε επόμενο κείμενο. Η κυβέρνηση χρησιμοποιεί τους Ουιγούρους ως «ινδικά χοιρίδια», αναπτύσσοντας και δοκιμάζοντας συστήματα επιτήρησης που μπορούν στη συνέχεια να εφαρμοστούν σε ολόκληρη τη χώρα.

Από το 2015, οι αστυνομικές δυνάμεις στην Xinjiang συλλέγουν: το ιατρικό ιστορικό, τις παραγγελίες μέσω διαδικτύου, τις παραδόσεις από ντιλίβερι, την κίνηση καρτών με πόντους σε σουπερμάρκετ, τη χρήση μεθόδων αντισύλληψης και τα αποτελέσματα των τεστ εγκυμοσύνης, τη διαδικτυακή συμπεριφορά, τις πτήσεις και τα ταξίδια με τρένο, τις συντεταγμένες κίνησης μέσω GPS και τα βιομετρικά δεδομένα - πρόσωπο, φωνή και δακτυλικά αποτυπώματα, συν το DNA των πολιτών [The Times, Atlantic].

Οι Ουιγούροι αναγκάστηκαν από την κυβέρνηση να κατεβάσουν μια εφαρμογή για κινητά (με τίτλο «καθαρισμός του διαδικτύου») που σκανάρει τις εικόνες, τα βίντεο, τα αρχεία ήχου, τα ηλεκτρονικά βιβλία και το υπόλοιπο υλικό στα τηλέφωνα των χρηστών [Business Insider]. Εφαρμογές όπως αυτές σκανάρουν αρχεία καταγραφής συνομιλιών προκειμένου να εντοπίσουν στίχους του Κορανίου ή χρήση αραβικής γραφής σε μιμίδια και αρχεία εικόνας. Ακόμη και η ψηφιακή αδράνεια (το να μην μπαίνει κάποιος στα μέσα κοινωνικής δικτύωσης), ή το να ξοδεύεις λιγότερο χρόνο αλληλεπιδρώντας με τους γείτονες ή κάποια αλλαγή στην κατανάλωση ηλεκτρικής ενέργειας μπορούν να εγείρουν υποψίες: η αστυνομία καλείται από την κυβέρνηση να σημειώνει πότε οι Ουιγούροι παρεκκλίνουν από τη ρουτίνα τους [Atlantic].

Μια από τις εφαρμογές που είναι διαθέσιμη στους αστυνομικούς επισημαίνει ορισμένες συμπεριφορές που είναι κοινές μεταξύ θρησκευτικών και εθνοτικών μειονοτήτων, όπως οι Καζάκοι, οι Ουζμπέκοι και οι Κιργίζιοι. Σύμφωνα με έρευνα του Human Rights Watch, η έξοδος από το σπίτι από την πίσω πόρτα, η είσοδος σε ένα τζαμί ή το να αποκτίσεις μούσι επισημαίνονται αυτόματα από το σύστημα, οδηγώντας συχνά σε ανάκριση από τις αρχές [Time, HRW].

Χρησιμοποιώντας την πανδημία για την ενίσχυση του συστήματος παρακολούθησης

Η πανδημία του κορωνοϊού έδωσε στην κυβέρνηση της Κίνας την ευκαιρία να επεκτείνει μαζικά το εύρος και την εμβέλεια του συστήματος δημόσιας επιτήρησης και ελέγχου: αναπτύσσοντας νέες μεθόδους ταξινόμησης πολιτών∙ απαιτώντας τη χρήση κωδικών QR για είσοδο ή έξοδο από κτίρια και δημόσιους χώρους∙ δημιουργώντας δομές κράτησης των κρουσμάτων∙ δοκιμάζοντας νέα εργαλεία και τεχνικές παρακολούθησης· εισάγοντας την παρακολούθηση και τον έλεγχο σε νέους χώρους, δραστηριότητες και τομείς της καθημερινής ζωής. Η κυβέρνηση Σι άσκησε μεγάλη πίεση σε εταιρείες που είχαν στην κατοχή τους ευαίσθητα προσωπικά δεδομένα. Προσωρινές συμφωνίες που έγιναν κατά τη διάρκεια της πανδημίας του κορωνοϊού σχετικά με τη χρήση αυτών μπορεί να γίνουν μόνιμες [The Atlantic, DM].

Η πανδημία επέτρεψε την επέκταση της εξουσίας της κυβέρνησης: χρησιμοποιώντας μεγάφωνα, φακούς υψηλής ανάλυσης, προβολείς, αισθητήρες θερμότητας και πίδακες χημικού ψεκασμού για ευρεία διασπορά απολυμαντικών, η Κίνα εκμεταλλεύτηκε τις χρήσεις των drones για βιομηχανική χαρτογράφηση και έρευνα ώστε να ελέγξει τα πλήθη και να ανιχνεύσει ασθένειες [SCMP]. Η χρήση drones, ειδικότερα, οδήγησε στο «μεγαλύτερο και πιο τολμηρό πείραμα παρακολούθησης και ελέγχου πληθυσμού που έχει δει ποτέ ο κόσμος» [Forbes]. Μια έκθεση της UNICEF σημειώνει ότι η τεχνολογία των drones χρησιμοποιήθηκε για επιτήρηση κατά τη διάρκεια της πανδημίας από πολλές χώρες και προειδοποιεί ότι αυτή η χρήση «πρέπει να υποστηρίζεται από κατάλληλο ρυθμιστικό πλαίσιο, τοπικές δεξιότητες και σχέδιο βιωσιμότητας» [UNICEF].

Μια εφαρμογή για κινητά τηλέφωνα έχει χρησιμοποιηθεί για την επιβολή της πολιτικής του ΚΚΚ για τον κορωνοϊό. Κατά τη διάρκεια της πανδημίας, οι Κινέζοι πολίτες υπόκειντο σε αξιολόγηση του ρίσκου: ένας αλγόριθμος τους έδινε έναν χρωματικό κωδικό (πράσινο, κίτρινο, κόκκινο) που καθόριζε την ικανότητά τους να μπαίνουν σε μέσα μαζικής μεταφοράς ή να εισέρχονται σε κτίρια [Atlantic]. Το «πράσινο» σήμαινε ότι οι πολίτες μπορούσαν να ταξιδεύουν ελεύθερα. Το «κόκκινο» μπορούσε να οδηγήσει και σε άμεση καραντίνα. Η ακριβής μεθοδολογία του αλγορίθμου ήταν ασαφής. Το καλοκαίρι του 2022 εκατοντάδες επενδυτές που είχαν πέσει θύματα οικονομικής απάτης προσπάθησαν να ταξιδέψουν στο Zhengzhou για να αναζητήσουν αποζημίωση από μια τράπεζα που είχε παγώσει τα χρήματά τους. Όταν άρχισαν να λαμβάνουν «κόκκινες» ειδοποιήσεις στις εφαρμογές τους για τον Covid, τους έβαλαν σε ξενοδοχεία καραντίνας που φυλάσσονταν από την αστυνομία. Την επόμενη μέρα τους επιβίβασαν σε τρένα και τους έστειλαν όλους πίσω στα σπίτια τους [Spectator].

Παγκοσμιοποιώντας τον ολοκληρωτισμό

Όπως θα δούμε και σε επόμενα άρθρα, υπάρχουν δύο τρόποι με τους οποίους η Κίνα εξαπλώνει τον έλεγχο της σε όλον τον κόσμο.

Ο πρώτος τρόπος είναι εξάγοντας τεχνολογία και τεχνογνωσία παρακολούθησης και κρατικού ελέγχου σε άλλες κυβερνήσεις και αυταρχικά καθεστώτα. Σύμφωνα με την έκθεση για την Ελευθερία στο Διαδίκτυο, 18 από τις 65 χώρες που αξιολογήθηκαν κατά τη διάρκεια της έρευνας χρησιμοποιούσαν τεχνολογία παρακολούθησης με Τεχνητή Νοημοσύνη από κινεζικές εταιρείες. Η περίοδος αξιολόγησης της έκθεσης ήταν από την 1η Ιουνίου 2017 έως τις 31 Μαΐου 2018. Ένα χρόνο αργότερα, ο δείκτης AI Global Surveillance (AIGS) διαπίστωσε ότι 47 χώρες από την ίδια ομάδα ανέπτυσσαν τεχνολογία επιτήρησης μέσω ΤΝ από την Κίνα [Carnegie].

Ο δεύτερος τρόπος είναι μέσω της διείσδυσης στη δημόσια και την ιδιωτική σφαίρα χωρών σε όλο τον κόσμο∙ τόσο μέσω της πολιτικής, οικονομικής και βιομηχανικής επιρροής, όσο και μέσω επιχειρήσεων επηρεασμού ελίτ και κοινωνιών, αλλά και μέσω της συλλογής και επεξεργασίας προσωπικών δεδομένων πολιτών άλλων κρατών. Ο ρόλος εταιρειών και εφαρμογών κινεζικής επιρροής ή ιδιοκτησίας που χρησιμοποιούνται ευρέως στη Δύση, όπως οι Huwaei, Zoom και TikTok, τελεί υπό διερεύνηση.

ΣΥΝΕΧΙΖΕΤΑΙ

* * *

Η έρευνα που παρουσιάζουμε είναι δευτερογενής∙ βασίζεται δηλαδή σε αποδελτίωση Τύπου και συλλογή, διασταύρωση, αξιολόγηση και σύνθεση στοιχείων που έχουν ήδη δημοσιευτεί σε διεθνή μέσα, ερευνητικά ινστιτούτα, δεξαμένες σκέψεις, διεθνείς, κυβερνητικούς και μη κυβερνητικούς οργανισμούς κλπ.

Αν και έχουμε καταβάλλει κάθε προσπάθεια για την διασταύρωση των πληροφοριών που συμπεριλάβαμε, η ερευνητική και συντακτική ομάδα και η Athens Voice δεν φέρουν καμία ευθύνη για την ακρίβεια των στοιχείων που παρουσιάζονται. Κάθε στοιχείο συνοδεύεται ενδεικτικά από αντίστοιχες πηγές ώστε οι αναγνώστες να μπορούν, αν θέλουν, να μελετήσουν τις πληροφορίες και να κάνουν τη δική τους αξιολόγηση.

* * *

Μια έρευνα σε συνεργασία με φοιτητές δημοσιογραφίας, πολιτικής, και επικοινωνίας & ΜΜΕ στο Πανεπιστήμιο του Bournemouth.

Συντονισμός έρευνας και αρχισυνταξία: Ρωμανός Γεροδήμος

Συντακτική και ερευνητική ομάδα: Oliver Ferris, Martyna Ivanauskaite, Saga Oskarson Kindstrand, Freya Griffiths, Sophie Harris, Hannah Knight

Με την υποστήριξη του Τμήματος Επικοινωνίας και Δημοσιογραφίας και του Centre for the Study of Conflict, Emotion & Social Justice στο Πανεπιστήμιο του Bournemouth.