Μελέτη: Το Instagram προωθεί ενεργά τη διάδοση αυτοτραυματισμών μεταξύ των εφήβων
«Εξαιρετικά ανεπαρκής ο έλεγχος - Επιλέγει να μην τον εφαρμόσει»


Το Instagram βοηθά ενεργά στην εξάπλωση του αυτοτραυματισμού μεταξύ των εφήβων, διαπιστώνει μελέτη - Τι καταλογίζουν ερευνητές στη μητρική εταιρεία Meta
Η Meta βοηθά ενεργά στη διάδοση του περιεχομένου αυτοτραυματισμού στο Instagram, καθώς αδυνατεί να αφαιρέσει τις σχετικές εικόνες και ενθαρρύνει όσους ασχολούνται με τέτοιο περιεχόμενο να γίνονται φίλοι μεταξύ τους, σύμφωνα με μια νέα μελέτη, η οποία διαπίστωσε ότι ο έλεγχος της εταιρίας είναι «εξαιρετικά ανεπαρκής».
Δανοί ερευνητές δημιούργησαν ένα ιδιωτικό δίκτυο αυτοτραυματισμού στο Instagram που περιλάμβανε ψεύτικα προφίλ ατόμων ηλικίας μόλις 13 ετών, στο οποίο μοιράστηκαν 85 δείγματα περιεχομένου που σχετιζόταν με τον αυτοτραυματισμό και αυξανόταν σταδιακά σε σοβαρότητα, παρουσιάζοντας εικόνες με αίμα, ξυραφάκια και ενθάρρυνση για αυτοτραυματισμό.
Το Instagram προωθεί εφηβικά δίκτυα αυτοτραυματισμού σύμφωνα με έρευνα
Στόχος της μελέτης ήταν να ελεγχθεί ο ισχυρισμός της Meta ότι είχε βελτιώσει σημαντικά τις διαδικασίες της για την αφαίρεση του επιβλαβούς περιεχομένου, οι οποίες, όπως λέει, χρησιμοποιούν πλέον τεχνητή νοημοσύνη. Ο τεχνολογικός κολοσσός ισχυρίζεται ότι αφαιρεί περίπου το 99% του επιβλαβούς περιεχομένου πριν αυτό αναφερθεί.
Όμως η Digitalt Ansvar (Ψηφιακή Λογοδοσία), μια οργάνωση που προωθεί την υπεύθυνη ψηφιακή ανάπτυξη, διαπίστωσε ότι κατά τη διάρκεια του πειράματος που διήρκεσε ένα μήνα δεν αφαιρέθηκε ούτε μία εικόνα.

Όταν δημιούργησε το δικό της απλό εργαλείο τεχνητής νοημοσύνης για την ανάλυση του περιεχομένου, μπόρεσε να εντοπίσει αυτόματα το 38% των εικόνων αυτοτραυματισμού και το 88% των πιο σοβαρών. Αυτό, δήλωσε η εταιρεία, έδειξε ότι το Instagram είχε πρόσβαση σε τεχνολογία ικανή να αντιμετωπίσει το ζήτημα, αλλά «επέλεξε να μην την εφαρμόσει αποτελεσματικά».
Η Meta δεν συμμορφώνεται με τη νομοθεσία της ΕΕ
Ο ανεπαρκής συντονισμός της πλατφόρμας, δήλωσε η Digitalt Ansvar, υποδηλώνει ότι δεν συμμορφώνεται με τη νομοθεσία της ΕΕ.
Ο νόμος για τις ψηφιακές υπηρεσίες απαιτεί από τις μεγάλες εταιρίες να εντοπίζουν τους συστημικούς κινδύνους, συμπεριλαμβανομένων των προβλέψιμων αρνητικών συνεπειών στη σωματική και ψυχική ευεξία.
Ένας εκπρόσωπος της Meta δήλωσε: «Το περιεχόμενο που ενθαρρύνει τον αυτοτραυματισμό είναι ενάντια στις πολιτικές μας και αφαιρούμε αυτό το περιεχόμενο όταν το εντοπίζουμε. Κατά το πρώτο εξάμηνο του 2024, αφαιρέσαμε περισσότερα από 12 εκατ. κομμάτια που σχετίζονται με αυτοκτονία και αυτοτραυματισμό στο Instagram, το 99% των οποίων κατεβάσαμε προληπτικά.
«Νωρίτερα φέτος, εγκαινιάσαμε το Instagram Teen Accounts, το οποίο θα τοποθετεί τους εφήβους στην αυστηρότερη ρύθμιση του ελέγχου ευαίσθητου περιεχομένου μας, ώστε να είναι ακόμη λιγότερο πιθανό να τους προτείνουμε ευαίσθητο περιεχόμενο και σε πολλές περιπτώσεις αποκρύπτουμε αυτό το περιεχόμενο εντελώς».
Η δανέζικη μελέτη ωστόσο, διαπίστωσε ότι αντί να προσπαθήσει να κλείσει το δίκτυο αυτοτραυματισμού, ο αλγόριθμος του Instagram βοηθούσε ενεργά την επέκτασή του. Η έρευνα έδειξε ότι οι 13χρονοι έγιναν φίλοι με όλα τα μέλη της ομάδας αυτοτραυματισμού αφού συνδέθηκαν με ένα από τα μέλη της.
Αυτό, σύμφωνα με τη μελέτη, «υποδηλώνει ότι ο αλγόριθμος του Instagram συμβάλλει ενεργά στη δημιουργία και εξάπλωση των δικτύων αυτοτραυματισμού».

Μιλώντας στον Observer, ο Ask Hesby Holm, διευθύνων σύμβουλος της Digitalt Ansvar, δήλωσε ότι η εταιρεία σοκαρίστηκε από τα αποτελέσματα, αφού πίστευε ότι, καθώς οι εικόνες που μοιραζόταν αυξάνονταν σε σοβαρότητα, θα έκρουαν τον κώδωνα του κινδύνου στην πλατφόρμα.
«Πιστεύαμε ότι όταν το κάναμε αυτό σταδιακά, θα φτάναμε στο όριο όπου η τεχνητή νοημοσύνη ή άλλα εργαλεία θα αναγνώριζαν ή θα ταυτοποιούσαν αυτές τις εικόνες», δήλωσε. «Αλλά δεν το έκαναν».
Και πρόσθεσε: «Αυτό ήταν ανησυχητικό, επειδή νομίζαμε ότι είχαν κάποιο είδος μηχανισμού που προσπαθούσε να καταλάβει και να αναγνωρίσει αυτό το περιεχόμενο».
Η αποτυχία να μετριάσει τις εικόνες αυτοτραυματισμού μπορεί να έχει «σοβαρές συνέπειες», είπε. «Αυτό συνδέεται σε μεγάλο βαθμό με την αυτοκτονία. Έτσι, αν δεν υπάρχει κανείς που να επισημαίνει ή να κάνει κάτι γι' αυτές τις ομάδες, περνούν απαρατήρητρε στους γονείς, στις αρχές, σε εκείνους που μπορούν να βοηθήσουν στην υποστήριξη».
Η Meta, πιστεύει, δεν μετριάζει τις μικρές ιδιωτικές ομάδες, όπως αυτή που δημιούργησε η εταιρεία του, προκειμένου να διατηρήσει υψηλή επισκεψιμότητα και συμμετοχή. «Δεν ξέρουμε αν μετριάζουν μεγαλύτερες ομάδες, αλλά το πρόβλημα είναι ότι οι ομάδες αυτοτραυματισμού είναι μικρές», είπε.
Το Instagram «κλείνει τα μάτια» στο επιβλαβές περιεχόμενο
Η Lotte Rubæk, κορυφαία ψυχολόγος που αποχώρησε από την παγκόσμια ομάδα εμπειρογνωμόνων της Meta για την πρόληψη των αυτοκτονιών τον Μάρτιο, αφού την κατηγόρησε ότι «κλείνει τα μάτια» στο επιβλαβές περιεχόμενο του Instagram, δήλωσε ότι, ενώ δεν εξεπλάγη από τα συνολικά ευρήματα, σοκαρίστηκε όταν είδε ότι δεν αφαιρέθηκε το πιο έκδηλο περιεχόμενο.
«Δεν θα πίστευα ότι θα ήταν μηδέν στις 85 αναρτήσεις που αφαίρεσαν», δήλωσε. «Ήλπιζα ότι θα ήταν καλύτερα. Έχουν επανειλημμένα πει στα μέσα ενημέρωσης ότι συνεχώς βελτιώνουν την τεχνολογία τους και ότι έχουν τους καλύτερους μηχανικούς στον κόσμο. Αυτό αποδεικνύει, έστω και σε μικρή κλίμακα, ότι αυτό δεν είναι αλήθεια».
Η Rubæk δήλωσε ότι η αποτυχία της Meta να αφαιρέσει εικόνες αυτοτραυματισμού από τις πλατφόρμες της «πυροδοτεί» ευάλωτες νεαρές γυναίκες και κορίτσια να βλάψουν περαιτέρω τον εαυτό τους και συμβάλλει στην αύξηση των αριθμών αυτοκτονιών.
Από τότε που αποχώρησε από την παγκόσμια ομάδα εμπειρογνωμόνων, δήλωσε ότι η κατάσταση στην πλατφόρμα είχε μόνο επιδεινωθεί, ο αντίκτυπος της οποίας είναι ευδιάκριτος στους ασθενείς της.
Το ζήτημα του αυτοτραυματισμού στο Instagram, είπε, είναι ζήτημα ζωής και θανάτου για τα νέα παιδιά και τους εφήβους. «Και κατά κάποιο τρόπο αυτό είναι απλώς παράπλευρη απώλεια γι' αυτούς, στον δρόμο για να βγάλουν χρήματα και κέρδη από τις πλατφόρμες τους».
(Με πληροφορίες του Guardian)
ΤΑ ΠΙΟ ΔΗΜΟΦΙΛΗ

ΔΙΑΒΑΖΟΝΤΑΙ ΠΑΝΤΑ
ΔΕΙΤΕ ΕΠΙΣΗΣ
Πότε αναμένεται η επόμενη ολική έκλειψη Ηλίου
Νέο κεφάλαιο στην ιστορία της Ubisoft - Η Tencent αποκτά μερίδιο
Οι γιατροί και οι δάσκαλοι του μέλλοντος θα είναι… τεχνητή νοημοσύνη
Με τη συμμετοχή έγκριτων εισηγητών από την Ελλάδα και το εξωτερικό - Δείτε το πρόγραμμα
Τα τρία επαγγέλματα που, κατά τον Μπιλ Γκέιτς, δεν κινδυνεύουν από το ΑΙ
Ένας από τους πρωτοπόρους Έλληνες Venture Capitalists μιλά για τις προκλήσεις και τις ευκαιρίες της νέας εποχής κι εξηγεί γιατί η Ελλάδα έχει τη δυνατότητα να γίνει παράγοντας, όχι ουραγός.
Το ιστορικό κτίριο όπου θα τοποθετηθεί και τα οφέλη για την Ελλάδα
Δεν είναι η πρώτη φορά που η διάσημη πλατφόρμα αντιμετωπίζει τεχνικά ζητήματα
Τι αναφέρουν οι ειδικοί
Αντιδράσεις για body shaming και πρακτικές που ενισχύουν την «τοξική κουλτούρα της δίαιτας»
Επιστήμονες πιστεύουν ότι βρίσκονται στα πρόθυρα μιας από τις μεγαλύτερες ανακαλύψεις της αστρονομίας
Εκτοξεύθηκε η αποτίμηση της πλατφόρμας μετά τη συμμαχία του δισεκατομμυριούχου με τον Ντόναλντ Τραμπ
Η εταιρεία ειδικεύεται στην κυβερνοασφάλεια
Οι αλλαγές στο DNA, τον εγκέφαλο και τα οστά
Εμπεριέχουν κύτταρα που θα μπορούσαν να αξιοποιηθούν για την ενίσχυση της γενετικής ποικιλομορφίας
Το περιεχόμενό του απειλεί τον τεχνολογικό κολοσσό με «άμεση και ανεπανόρθωτη ζημιά»
Γιατί ονομάζεται έτσι
Έφτασε σε απόσταση 5.600 χιλιομέτρων από την επιφάνεια του Άρη, με ταχύτητα των 33.480 χιλιομέτρων την ώρα
Μια συνέντευξη με τον Χαράλαμπο Τσέκερη με αφορμή το ντοκιμαντέρ για την Τεχνητή Νοημοσύνη
Μιλήσαμε με τον Γιώργο Μπαρδάνη και τον Σέργιο Τζιάνο, που έχουν αναλάβει τα μεγαλύτερα drone shows στην Ελλάδα. Μάθαμε το πώς εκτελείται ένα show από τον σχεδιασμό μέχρι το play και το κόστος.
Έχετε δει 20 από 200 άρθρα.