Le piattaforme di social media suggeriscono contenuti misogini e violenti nei confronti di tutti quegli utenti che già mostrano segni di ostilità nei confronti delle donne, magari perché in passato hanno condiviso una notizia, espresso un “like” o postato un pensiero antifemminista. È questa la rivelazione shock emersa da un’indagine dell’emittente britannica BBC dal titolo ‘Online Abuse: Why Do You Hate Me?’ andata in onda nei giorni scorsi.
Non semplici supposizioni ma, grazie a degli esperimenti sul campo, la giornalista Marianna Spring ha dimostrato come gli algoritmi dei principali social analizzano quanto pubblicato dagli utenti e, non curanti del contenuto dei messaggi diffusi in rete, anche i più abietti, propongano ad essi foto, frasi o suggerendo loro amicizie in linea con i pensieri violenti e discriminatori postati da questi leoni tastiera.
Marianna Spring è giunta a questa conclusione grazie all’attività “social” di un finto personaggio online da lei appositamente creato, un uomo di fantasia chiamato “Barry”, e dispensando per il suo tramite apprezzamenti e commenti su post violenti divulgati da terzi. Barry, inoltre, ha fatto incetta di foto e post di discutibile gusto, guardando anche video poco lusinghieri nei confronti del gentil sesso o aderendo a teorie strampalate. Tutte azioni che hanno accreditato il finto Barry, agli occhi dell’algoritmo, come un utente complottista, violento e facinoroso nei confronti del sesso femminile e del mondo in generale. A quel punto è stato direttamente il social network a proporre al fantomatico Barry contenuti in linea con le sue preferenze, ovvero violenze di ogni tipo.
Grazie a questa intensa attività social, infatti, la giornalista è stata in grado di creare “un’impronta digitale” per il suo Barry, che imitava quegli stessi troll che la prendono di mira frequentemente sui social media. Anche lei, infatti, è vittima quotidiana dell’odio presente in rete, magari per il solo fatto di essere donna.
“Come i miei troll, Barry era principalmente interessato ai contenuti anti-vax e alle teorie del complotto, e seguiva una piccola quantità di contenuti anti-donne“, ha spiegato la Spring. “Ha anche pubblicato alcuni abusi sul suo profilo, in modo che gli algoritmi potessero rilevare fin dall’inizio che questo account usasse un linguaggio offensivo sulle donne“.
Dopo appena una settimana, le pagine più consigliate da seguire sia su Facebook che su Instagram erano quasi tutte ostili alle donne. Alcuni di questi contenuti riguardavano la violenza sessuale, la condivisione di meme inquietanti su atti carnali e contenuti vari che giustificavano stupri, molestie e violenza di genere. Alla fine dell’esperimento, il profilo ha ricevuto sempre più contenuti anti-donne da questi social, un aumento significativo rispetto a quando era stato creato l’account.
Se questo profilo fosse stato una persona reale, dunque, sarebbe stato introdotto, nel giro di qualche settimana (e magari a propria insaputa) all’interno di una comunità virtuale piena di odio, segnale inequivocabile che qualcosa va ritoccato. Anche l’algoritmo, insomma, va educato.