Τεχνολογια - Επιστημη

To πρόγραμμα φωτογραφιών τεχνητής νοημοσύνης της Google «εμφάνισε» μαύρους Ναζί

H εταιρεία σταμάτησε προσωρινά το Gemini

62224-137655.jpg
Newsroom
1’ ΔΙΑΒΑΣΜΑ
Google: Φιάσκο με φωτογραφίες προϊόν τεχνητής νοημοσύνης
© screenshot/Gemini

Google: Σταμάτα άμεσα τις φωτογραφίες προϊόν τεχνητής νοημοσύνης 

Η Google σταμάτησε προσωρινό το πρόγραμμα τεχνητής νοημοσύνης που παράγει ανθρώπινες εικόνες, αφού όταν του ζητήθηκε απεικόνισε Γερμανούς στρατιώτες του Β' Παγκοσμίου Πολέμου και τους Βίκινγκς ως έγχρωμους.

Η τεχνολογική εταιρεία δήλωσε ότι θα σταματήσει το πρόγραμμα Gemini μετά από αναρτήσεις από χρήστες των μέσων κοινωνικής δικτύωσης που διαμαρτυρήθηκαν για τις λανθασμένες απεικονίσεις.

«Εργαζόμαστε ήδη για να αντιμετωπίσουμε τα πρόσφατα ζητήματα με τη λειτουργία δημιουργίας εικόνων του Gemini. Ενώ το κάνουμε αυτό, θα διακόψουμε τη και θα επανακυκλοφορήσουμε σύντομα μια βελτιωμένη έκδοση», ανέφερε η Google σε ανακοίνωσή της.

Η Google δεν αναφέρθηκε σε συγκεκριμένες εικόνες στην ανακοίνωσή της, αλλά παραδείγματα των αποτελεσμάτων των εικόνων Gemini ήταν ευρέως διαθέσιμα στο X, με έναν πρώην υπάλληλο της εταιρείας να σχολιάζει σκωπτικά ότι ήταν «δύσκολο να κάνεις το Google Gemini να αναγνωρίσει ότι υπάρχουν λευκοί άνθρωποι».

Ο ανώτερος διευθυντής στην ομάδα Gemini της Google παραδέχθηκε την Τετάρτη ότι η γεννήτρια εικόνων του προγράμματος - η οποία δεν είναι διαθέσιμη στο Ηνωμένο Βασίλειο και την Ευρώπη - χρειαζόταν προσαρμογή. «Εργαζόμαστε για να βελτιώσουμε άμεσα αυτού του είδους τις απεικονίσεις», δήλωσε. «Η παραγωγή εικόνων της τεχνητής νοημοσύνης του Gemini παράγει όντως ένα ευρύ φάσμα ανθρώπων. Αλλά χάνει το στόχο».

Μεροληπτική τεχνητή νοημοσύνη;

Μια έρευνα της Washington Post πέρυσι έδειξε πολλαπλά παραδείγματα γεννητριών εικόνων που παρουσίαζαν προκατάληψη κατά των έγχρωμων ατόμων, καθώς και σεξισμό. Διαπίστωσε ότι η γεννήτρια εικόνων Stable Diffusion XL έδειχνε τους δικαιούχους κουπονιών τροφίμων ως κυρίως μη λευκούς ή με πιο σκούρο δέρμα, παρά το γεγονός ότι το 63% των δικαιούχων κουπονιών τροφίμων στις ΗΠΑ είναι λευκοί. 

Ο Άντριου Ρογιόφσκι, του Institute for People-Centred AI στο Πανεπιστήμιο του Surrey, δήλωσε ότι είναι «πρόβλημα στους περισσότερους τομείς της βαθιάς μάθησης και της γεννητικής τεχνητής νοημοσύνης να μετριάσει κανείς την προκατάληψη» και ότι είναι πιθανό να προκύψουν λάθη.

ΕΓΓΡΑΦΕΙΤΕ ΣΤΟ NEWSLETTER ΜΑΣ

Tα καλύτερα άρθρα της ημέρας έρχονται στο mail σου

ΠΡΟΣΦΑΤΑ

ΤΑ ΠΙΟ ΔΗΜΟΦΙΛΗ

ΔΙΑΒΑΖΟΝΤΑΙ ΠΑΝΤΑ

ΔΕΙΤΕ ΕΠΙΣΗΣ

Τεχνητή νοημοσύνη: Αυτοματισμός χωρίς όρια;
Τεχνητή νοημοσύνη: Αυτοματισμός χωρίς όρια;

Η AI θα πρέπει να υποβάλλεται σε περιορισμούς ορθής χρήσης, με τη διαφορά ότι αυτοί καλό είναι να τίθενται και να εφαρμόζονται εν είδει αυτορρύθμισης από τους ίδιους τους χρήστες

Έχετε δει 20 από 200 άρθρα.