Τεχνητή Νοημοσύνη: Σεξιστικά στερεότυπα από τα γλωσσικά μοντέλα της Meta και της OpenAI

Τα γλωσσικά μοντέλα της Meta και της OpenAI, που χρησιμοποιούνται ως βάση για τα εργαλεία της γενετικής τεχνητής νοημοσύνης, διακινούν σεξιστικές προκαταλήψεις, προειδοποιεί μελέτη της Unesco που δημοσιεύεται την παραμονή της Παγκόσμιας Ημέρας της Γυναίκας.

© Unsplash / Jonathan Kemper

Unesco: Τα γλωσσικά μοντέλα περιέχουν προκαταλήψεις κατά των γυναικών

Τα μοντέλα GPT 2 και GPT 3.5 της OpenAI (GPT 3.5 αποτελεί βάση της δωρεάν έκδοσης του ChatGPT), καθώς και το Llama 2 της ανταγωνίστριας Meta, περιέχουν «αναμφίβολα προκαταλήψεις κατά των γυναικών», προειδοποιεί η Unesco.

«Οι διακρίσεις του πραγματικού κόσμου δεν απεικονίζονται απλώς στην ψηφιακή σφαίρα, μεγεθύνονται», διαπιστώνει ο Ταουφίκ Τζελάσι, γενικός υποδιευθυντής Επικοινωνίας και Ενημέρωσης της Unesco.

Σύμφωνα με την μελέτη που πραγματοποιήθηκε από τον Αύγουστο 2023 μέχρι τον Μάρτιο 2024, τα γλωσσικά αυτά μοντέλα έχουν περισσότερο την τάση να συνδέουν γυναικεία ονόματα με λέξεις όπως «σπίτι», «οικογένεια» ή «παιδιά», ενώ τα αρσενικά ονόματα συνδέονται περισσότερο με λέξεις όπως «εμπόριο», «μισθός», «καριέρα».

© Unsplash / Julio Lopez

Η τεχνητή νοημοσύνη μπορεί να διαμορφώσει τις αντιλήψεις εκατομμυρίων

Σχετικό Άρθρο

Τεχνολογια - Επιστημη Elon Musk: Διαθέσιμο σε όλους το μοντέλο τεχνητής νοημοσύνης Grok

Μπάμπης Καλογιάννης 18.03.2024, 18:33

Οι ερευνητές ζήτησαν από τα εργαλεία αυτά να παραγάγουν «πορτρέτα» για πρόσωπα διαφορετικής καταγωγής και φύλων. Τα αποτελέσματα έδειξαν ότι οι ιστορίες που αφορούν πρόσωπα «από μειονοτικές κουλτούρες ή γυναίκες ήταν περισσότερο μηχανικά και βασισμένα σε στερεότυπα».

Για παράδειγμα, η τάση είναι ένας Άγγλος να παρουσιάζεται ως καθηγητής, σοφέρ ή τραπεζικός υπάλληλος, ενώ μία Αγγλίδα να παρουσιάζεται στο τουλάχιστον 30% των κειμένων προϊόντων της γενετικής τεχνητής νοημοσύνης ως ιερόδουλη, μοντέλο ή σερβιτόρα.

Οι εταιρείες αυτές δεν καταφέρνουν να εκπροσωπήσουν το σύνολο των χρηστών τους, λέει η Λεόνα Βερδαδέρο, ειδική ψηφιακών πολιτικών και ψηφιακής μετάβασης στην Unesco.

Από την στιγμή που οι εφαρμογές της γενετικής τεχνητής νοημοσύνης χρησιμοποιούνται όλο και περισσότερο από το ευρύ κοινό, έχουν την εξουσία να διαμορφώσουν τις αντιλήψεις εκατομμυρίων ανθρώπων», επισημαίνει η Οντρέ Αζουλέ, γενική διευθύντρια της Unesco.

Σχετικό Άρθρο

Τεχνολογια - Επιστημη State Department: Η AI είναι απειλή για το ανθρώπινο είδος

Newsroom 13.03.2024, 21:51

Το 22% των εργαζομένων στην ΑΙ είναι γυναίκες

«Κατά συνέπεια, η ίδια η παρουσία και της παραμικρής σεξιστικής προκατάληψης στο περιεχόμενό τους μπορεί να αυξήσει σημαντικά τις ανισότητες στον πραγματικό κόσμο», αναφέρεται στην ανακοίνωση της Οντρέ Αζουλέ.

Για την καταπολέμηση των προκαταλήψεων, η Unesco συνιστά στις εταιρείες του τομέα να επιλέγουν ομάδες μηχανικών με πιο ποικιλόμορφη σύνθεση και με περισσότερες γυναίκες.

Οι γυναίκες δεν αποτελούν παρά το 22% των μελών των ομάδων που εργάζονται στην τεχνητή νοημοσύνη σε παγκόσμιο επίπεδο, σύμφωνα με τα στοιχεία του Παγκόσμιου Οικονομικού Φόρουμ, υπενθυμίζει η Unesco που ζητά από τις κυβερνήσεις μεγαλύτερη ρυθμιστική παρέμβαση για μία «ηθική τεχνητή νοημοσύνη».