Τεχνητή Νοημοσύνη: Σεξιστικά στερεότυπα από τα γλωσσικά μοντέλα της Meta και της OpenAI
Τι αναφέρει μελέτη της Unesco παραμονή της Παγκόσμιας Ημέρας της Γυναίκας
![62224-137655.jpg 62224-137655.jpg](/images/120x120/3/jpg/sites/default/files/contributor/62224-137655.jpg)
![Τεχνητή Νοημοσύνη: Σεξιστικά στερεότυπα διακινούν τα γλωσσικά μοντέλα της Meta και της OpenAI Τεχνητή Νοημοσύνη: Σεξιστικά στερεότυπα διακινούν τα γλωσσικά μοντέλα της Meta και της OpenAI](/images/1074x600/1/jpg/files/2024-03-07/levart_photographer-7q-ke4szzvq-unsplash__1_.jpg)
Γενετική Τεχνητή Νοημοσύνη: Τα γλωσσικά μοντέλα της Meta και της OpenAI διακινούν σεξιστικά στερεότυπα, σύμφωνα με μελέτη της Unesco
Τα γλωσσικά μοντέλα της Meta και της OpenAI, που χρησιμοποιούνται ως βάση για τα εργαλεία της γενετικής τεχνητής νοημοσύνης, διακινούν σεξιστικές προκαταλήψεις, προειδοποιεί μελέτη της Unesco που δημοσιεύεται την παραμονή της Παγκόσμιας Ημέρας της Γυναίκας.
![Τεχνητή Νοημοσύνη: Σεξιστικά στερεότυπα διακινούν τα γλωσσικά μοντέλα της Meta και της OpenAI Τεχνητή Νοημοσύνη: Σεξιστικά στερεότυπα διακινούν τα γλωσσικά μοντέλα της Meta και της OpenAI](/images/w734/1/jpg/files/2024-03-07/jonathan-kemper-n8ayh8r2rwq-unsplash.jpg)
Unesco: Τα γλωσσικά μοντέλα περιέχουν προκαταλήψεις κατά των γυναικών
Τα μοντέλα GPT 2 και GPT 3.5 της OpenAI (GPT 3.5 αποτελεί βάση της δωρεάν έκδοσης του ChatGPT), καθώς και το Llama 2 της ανταγωνίστριας Meta, περιέχουν «αναμφίβολα προκαταλήψεις κατά των γυναικών», προειδοποιεί η Unesco.
«Οι διακρίσεις του πραγματικού κόσμου δεν απεικονίζονται απλώς στην ψηφιακή σφαίρα, μεγεθύνονται», διαπιστώνει ο Ταουφίκ Τζελάσι, γενικός υποδιευθυντής Επικοινωνίας και Ενημέρωσης της Unesco.
Σύμφωνα με την μελέτη που πραγματοποιήθηκε από τον Αύγουστο 2023 μέχρι τον Μάρτιο 2024, τα γλωσσικά αυτά μοντέλα έχουν περισσότερο την τάση να συνδέουν γυναικεία ονόματα με λέξεις όπως «σπίτι», «οικογένεια» ή «παιδιά», ενώ τα αρσενικά ονόματα συνδέονται περισσότερο με λέξεις όπως «εμπόριο», «μισθός», «καριέρα».
![Τεχνητή Νοημοσύνη: Σεξιστικά στερεότυπα διακινούν τα γλωσσικά μοντέλα της Meta και της OpenAI Τεχνητή Νοημοσύνη: Σεξιστικά στερεότυπα διακινούν τα γλωσσικά μοντέλα της Meta και της OpenAI](/images/w734/1/jpg/files/2024-03-07/julio-lopez-kuatffyjqq4-unsplash.jpg)
Η τεχνητή νοημοσύνη μπορεί να διαμορφώσει τις αντιλήψεις εκατομμυρίων
Οι ερευνητές ζήτησαν από τα εργαλεία αυτά να παραγάγουν «πορτρέτα» για πρόσωπα διαφορετικής καταγωγής και φύλων. Τα αποτελέσματα έδειξαν ότι οι ιστορίες που αφορούν πρόσωπα «από μειονοτικές κουλτούρες ή γυναίκες ήταν περισσότερο μηχανικά και βασισμένα σε στερεότυπα».
Για παράδειγμα, η τάση είναι ένας Άγγλος να παρουσιάζεται ως καθηγητής, σοφέρ ή τραπεζικός υπάλληλος, ενώ μία Αγγλίδα να παρουσιάζεται στο τουλάχιστον 30% των κειμένων προϊόντων της γενετικής τεχνητής νοημοσύνης ως ιερόδουλη, μοντέλο ή σερβιτόρα.
Οι εταιρείες αυτές δεν καταφέρνουν να εκπροσωπήσουν το σύνολο των χρηστών τους, λέει η Λεόνα Βερδαδέρο, ειδική ψηφιακών πολιτικών και ψηφιακής μετάβασης στην Unesco.
Από την στιγμή που οι εφαρμογές της γενετικής τεχνητής νοημοσύνης χρησιμοποιούνται όλο και περισσότερο από το ευρύ κοινό, έχουν την εξουσία να διαμορφώσουν τις αντιλήψεις εκατομμυρίων ανθρώπων», επισημαίνει η Οντρέ Αζουλέ, γενική διευθύντρια της Unesco.
Το 22% των εργαζομένων στην ΑΙ είναι γυναίκες
«Κατά συνέπεια, η ίδια η παρουσία και της παραμικρής σεξιστικής προκατάληψης στο περιεχόμενό τους μπορεί να αυξήσει σημαντικά τις ανισότητες στον πραγματικό κόσμο», αναφέρεται στην ανακοίνωση της Οντρέ Αζουλέ.
Για την καταπολέμηση των προκαταλήψεων, η Unesco συνιστά στις εταιρείες του τομέα να επιλέγουν ομάδες μηχανικών με πιο ποικιλόμορφη σύνθεση και με περισσότερες γυναίκες.
Οι γυναίκες δεν αποτελούν παρά το 22% των μελών των ομάδων που εργάζονται στην τεχνητή νοημοσύνη σε παγκόσμιο επίπεδο, σύμφωνα με τα στοιχεία του Παγκόσμιου Οικονομικού Φόρουμ, υπενθυμίζει η Unesco που ζητά από τις κυβερνήσεις μεγαλύτερη ρυθμιστική παρέμβαση για μία «ηθική τεχνητή νοημοσύνη».
ΤΑ ΠΙΟ ΔΗΜΟΦΙΛΗ
ΔΙΑΒΑΖΟΝΤΑΙ ΠΑΝΤΑ
ΔΕΙΤΕ ΕΠΙΣΗΣ
Τι έδειξε επιστημονική έρευνα
Τα νέα σχόλια θα είναι προσωρινά και ημι-ιδιωτικά
Οι ειδικοί προειδοποιούν ότι δεν αποκλείεται να επαναληφθεί
Ο Βρετανός γιατρός και Παραολυμπιονίκης εκπαιδεύτηκε με επιτυχία από την ESA
Ανοιχτές οι αιτήσεις έως τις 31 Ιουλίου
Τι έγραψε στην πλατφόρμα για την απόφασή του αυτή
Όταν συναντήθηκαν το αμερικανικό διαστημικό σκάφος Apollo 18 και το σοβιετικό Soyuz 19
Πόσο χρήσιμο μπορεί να φανεί σε μελλοντικές αποστολές
Τα πιο δημοφιλή της ψηφιακής εποχής και όσα κρύβονται από πίσω τους
Το ζευγάρι των γαλαξιών Arp 142 βρίσκεται σε διαδικασία συγχώνευσης εδώ και δεκάδες εκατομμύρια χρόνια
Η τεχνολογία θεωρείται πιο αποδοτική και φιλική στο περιβάλλον
Το πιο ολοκληρωμένο απολίθωμα που ανακαλύφθηκε στη Βρετανία εδώ και έναν αιώνα
Γρήγορες και απλές συμβουλές για να οργανώσετε όπως εσείς θέλετε τα email σας
Απλά tips για λήψη φωτογραφιών και βίντεο χωρίς περιορισμούς σε ό,τι συσκευή τηλεφώνου και αν έχετε
Με τα ηχητικά βιβλία, οι αναγνώστες πληρώνουν για να έχουν πρόσβαση σε μια τεράστια βιβλιοθήκη – αλλά ο έλεγχος αυτής της βιβλιοθήκης εναπόκειται τελικά στην πλατφόρμα που τη φιλοξενεί
45 χρόνια από όταν «γεννήθηκε» η συνήθεια να ακούμε τα τραγούδια που αγαπάμε όπου και όποτε θέλουμε
Μπορεί να επουλωθεί μόνο του αν κοπεί
Σε συνεργασία με την αλυσίδα καταστημάτων Toys ‘R’ Us
Παρουσίασε τα πρώτα δεδομένα η αποστολή του Ευρωπαϊκού Οργανισμού Διαστήματος
Έχετε δει 20 από 200 άρθρα.