Όταν οι αλγόριθμοι μαντεύουν πώς αισθανόμαστε

Το μεγαλύτερο αλλά και το σημαντικότερο μέρος της φυσικής ανθρώπινης επικοινωνίας δεν γίνεται με λόγια. Όταν μιλάμε πρόσωπο με πρόσωπο ασυναίσθητα διαβάζουμε πίσω από τις λέξεις, γνωρίζουμε το πλαίσιο μέσα στο οποίο λέγεται κάτι και προσπαθούμε να καταλάβουμε τη συναισθηματική κατάσταση του συνομιλητή μας για να καταλάβουμε τι εννοεί. Καθώς όμως όλο και περισσότερες από τις αλληλεπιδράσεις μας είναι online (μέσω μηνυμάτων, σχολίων, αναρτήσεων) η μεγάλη πρόκληση είναι η κατανόηση της συναισθηματικής κατάστασης από την ανάλυση των λεκτικών αποχρώσεων. Το 93% της ανθρώπινης επικοινωνίας πλέον είναι μη προφορική, η περισσότερη σε δακτυλογραφημένα κείμενα και email. Είτε πρόκειται για το βιντεάκι ενός χαριτωμένου κουταβιού είτε για το tweet του πρωθυπουργού είναι σίγουρο ότι θα γεννήσει συναισθήματα στο διαδίκτυο. Και όταν υπάρχει κάποιος που έχει συναισθήματα υπάρχει είναι σίγουρο ότι θα υπάρξει μια εταιρεία που θα θέλει να βγάλει χρήμα από αυτά. Για αυτό το λόγο δημιουργήθηκαν αλγόριθμοι για να βοηθήσουν αυτές τις εταιρείες να κατανοούν και να αναλύουν καλύτερα το συναισθηματικό χάος στο διαδίκτυο. 

Κάποια στιγμή πριν από τα Χριστούγεννα του 2014 το site ταξιδιών Expedia Canada ξεκίνησε μια καμπάνια για χειμωνιάτικες αποδράσεις. Στα διαφημιστικά που έτρεξαν στο διαδίκτυο χρησιμοποίησε ως υπόκρουση τη μουσική από ένα βιολί, που δεν ήταν όμως και τόσο καλόηχη. Το κοινό ήταν πολύ σκληρό και απορριπτικό και χιλιάδες σκληρά σχόλια γέμισαν τα μέσα κοινωνικής δικτύωσης, τα φόρουμ και τα μπλογκ. Όλο ο κόσμος μιλούσε για την καμπάνια, η Expedia Canada είχε γίνει viral αλλά όχι για καλό. Η εταιρία έπρεπε να αντιδράσει γρήγορα. Δημιούργησε νέο βίντεο με τον ίδιο ηθοποιό από την αρχική διαφήμιση που τώρα όμως έσπαγε το βιολί του. Ήταν μια έξυπνη κίνηση για να διορθώσει μια επικοινωνιακή καταστροφή σε σχετικά σύντομο χρονικό διάστημα. Εάν η εταιρεία μέτρησε μόνο τον αριθμό των ηλεκτρονικών αντιδράσεων, χωρίς να βρει την ποιότητα των σχολίων, δεν θα ήταν σε θέση να προσδιορίσει το ζήτημα και να το αντιμετωπίσει τόσο γρήγορα.

Αυτός λοιπόν είναι ο τομέας που λέγεται ανάλυση συναισθήματος (sentiment analysis) ή εξόρυξη γνώμης (opinion mining). Πολλές εταιρίες βασίζονται σε αυτό για να παρακολουθούν τι σκέφτονται οι καταναλωτές και ο επενδυτικός κολοσσός BlackRock το χρησιμοποιεί για να προωθεί διαφημίσεις με βάση τα οικονομικά νέα και το επενδυτικό κλίμα. Τα τελευταία χρόνια η χρήση της πληροφορικής για την αναγνώριση των ανθρώπινων συναισθημάτων χρησιμοποιείται όλο και πιο συχνά. Τα εργαλεία αναγνώρισης προσώπου μπορούν τώρα να αξιολογήσουν τα συναισθήματα μέσω των πιο μικρών κινήσεων των προσώπων, κινήσεις που ονομάζονται μικροεκφράσεις. Έξυπνο λογισμικό ήχου μπορεί να αξιολογήσει τα συναισθήματα ενός ομιλητή σε πραγματικό χρόνο. Τα αυτοκίνητα θα μπορούν να καταλάβουν αν οι οδηγοί είναι ψύχραιμοι για να μην θέτουν σε κίνδυνο τον εαυτό τους και τους άλλους και τα μαγαζιά αν οι καταναλωτές έχουν ευχάριστες εμπειρίες. Τα σχολεία θα μπορούν να εφαρμόζουν την ανάλυση συναισθημάτων στις αναρτήσεις των μαθητών τους και οι εργοδότες στους πιθανούς εργαζόμενους τους. Στην πολιτική, οι αλγόριθμοι προσδοκούν να φτάσουν στο σημείο να αξιολογήσουν τις πιθανότητες ενός υποψήφιου με βάση τα συναισθήματα των χρηστών του Twitter ακριβέστερα και ταχύτερα από τις δημοσκοπήσεις. Επίσης, στις 4 το απόγευμα παρατηρούνται τα πιο αρνητικά συναισθήματα στους εργαζόμενους με βάση την ανάλυση των συναισθημάτων του Twitter.

Και κάπου εδώ αρχίζουν όμως τα άσχημα. Όπως είναι φανερό από τα παραπάνω αν αυτά τα συστήματα μπορούν να διαβάσουν τα συναισθήματα, μπορούν να αρχίσουν και να τα χειραγωγούν. Μπορούν να πλημμυρίσουν με αρνητικά σχόλια το Twitter και να γεννήσουν αντίστοιχα συναισθήματα για ένα υποψήφιο στις εκλογές αλλά και να πείσουν τους ανθρώπους να απέχουν. Και μέχρι στιγμής, καμία πλατφόρμα κοινωνικής δικτύωσης δεν έχει μπορέσει να ξεχωρίσει και να επισημάνει αντίστοιχα αν ένα μήνυμα προέρχεται από πραγματικό άνθρωπο ή από εφαρμογή. Οι αλγόριθμοι επίσης μπορούν να εντοπίσουν ευκολότερα τα συναισθήματα από ανθρώπους συγκεκριμένων φυλών, ηλικιών και φύλων. Η παρεξήγηση ή η αντιμετώπιση κάποιων συναισθημάτων διαφορετικά μπορεί να οδηγήσει σε διακρίσεις. Για παράδειγμα, ένα σύστημα υποστήριξης πελατών έδινε μεγαλύτερη προτεραιότητα σε έναν πελάτη που χρησιμοποιούσε ανδρικές αντωνυμίες έναντι ενός χρήστη που χρησιμοποιούσε θηλυκές αντωνυμίες «επειδή το αυτόματο σύστημα αναγνώρισης συναισθημάτων αξιολογούσε το ανδρικό κείμενο ως πιο θυμωμένο». Οι αλγόριθμοι μπορούν επίσης να παραβιάζουν το απόρρητο των χρηστών. Οι εταιρείες μπορούν να χρησιμοποιήσουν τις πληροφορίες που συλλέγουν από τα δεδομένα των χρηστών για σκοπούς που οι χρήστες ενδέχεται να μην συμφωνούν και να μην έχουν συναινέσει ποτέ, όπως ακριβώς έκανε η Cambridge Analytica. 

Η Rana el Kaliouby, συνιδρυτής της Affectiva, που χρησιμοποιεί έναν αλγόριθμο για να ανιχνεύει τα συναισθήματα των ανθρώπων με βάση τις εκφράσεις του προσώπου, λέει ότι η εταιρεία της ήταν πολύ προσεκτική για το ποιος μπορεί να πάρει άδεια χρήσης της τεχνολογίας. «Φανταστείτε να περάσει στα χέρια αυταρχικών ηγετών. Αν εκφωνούν ένα πολιτικό μήνυμα και η εφαρμογή αξιολογήσει πιθανά μειδιάματα κάποιων πολιτών ως ένδειξη σκεπτικισμού ή αμφιβολίας, αυτό θα μπορούσε να χρησιμοποιηθεί εναντίον τους», λέει η el Kaliouby. Το σύστημα της Affectiva το χρησιμοποιεί πλέον 1 στις 4 από τις 500 μεγαλύτερες εταιρείες στον κόσμο για την ανάλυση της επίδρασης των διαφημίσεων τους.

Με πληροφορίες από forbes.com