Nessuno è perfetto, questo è noto, e tale cosa vale anche per gli algoritmi di Intelligenza artificiale, a dispetto dell’indiscutibile scienza esatta matematica.
La scorsa estate – come riporta il Daily Mail – l’algoritmo di Youtube, programmato per scandagliare la famosa piattaforma di video sharing alla ricerca di contenuti dannosi e politicamente scorretti, è incappato in una ridicola gaffe.
Alla parola “bianchi contro neri” pronunciata in un video postato da “Agadmator”, il campanello di allarme del groviglio matematico di Youtube ha iniziato a suonare all’impazzata e, in meno di un istante, ha chiuso il canale e impedito a tale misterioso account (almeno ai suoi occhi) di continuare a trasmettere ulteriori video.
Peccato che dietro quell’account si celasse Antonio Radic, YouTuber croato ma soprattutto giocatore di scacchi, autore del famoso canale denominato Agadmator’s Chess Channel. A partire dal 2021, il suo è il canale di scacchi più popolare su YouTube, superando il milione di abbonati.
Ma, privo del raziocinio e del discernimento umano, l’algoritmo-poliziotto non ha voluto sentire ragioni e, in base alle istruzioni di programmazione, quel “il bianco scaccia il nero” è apparsa subito come una violazione della policy antidiscriminatoria: senza preavviso, il canale è stato bloccato per 24 ore, prima di chiarire l’equivoco.
Ma quello accaduto al re (digitale) degli scacchi non è un caso isolato. Paradossale quanto accaduto anche ad una prestigiosa concessionaria d’auto trevigiana (nel suo salone si spazia dalle Audi alle Porsche) che, sul finire del 2018, si è vista incredibilmente censurare la propria pubblicità da Facebook: per il popolare social la concessionaria “Negro” non poteva trovare ospitalità sulle pagine create da Mark Zuckerberg, poiché tale pubblicità “contiene volgarità e può offendere le persone”. E quali erano tali volgarità, si sono chiesti alla Negro: una cabriolet di colore sgargiante o forse un SUV troppo procace? Niente di tutto ciò, semplicemente il nome dell’autosalone, “Negro”, appunto, ritenuto dall’algoritmo offensivo e, quindi, non degno di pubblicazione.
Pare che il vizio dei nomi “coloriti” dell’algoritmo di Facebook non sia nuovo a certe censure: già una volta il famoso social aveva bloccato lo spot di un candidato solo perché disgraziatamente si chiamava “Dalla Negra”, o condannato la foto della fontana trevigiana chiamata “delle Tette” giudicata, forse, troppo osè.
Lasciando per un momento i giudizi affrettati di questi “giudici digitali”, preminente è il ruolo che i motori di ricerca svolgono sul web, animati e diretti, da complessi algoritmi che, per conto di un’autorità suprema quanto misteriosa, elaborano e trasformano i dati personali degli utenti presenti sul web.
I motori di ricerca sono il necessario meccanismo attraverso cui si selezionano le informazioni reputate degne di raggiungere il lettore. Essi stabiliscono l’informazione che viene presentata al lettore sullo schermo e stabiliscono altresì l’ordine in cui la notizia viene proposta determinando in questo modo la sua visibilità. Un fatto, un’informazione, una storia può essere indicizzata o no e, anche se indicizzata, può avere assegnato dall’algoritmo un ranking differente da cui dipende la sua effettiva capacità di raggiungere il pubblico. Ed è forse vero che, se si vuole custodire un segreto, basta metterlo sulla seconda pagina di Google.