Altolà, da parte del Garante della privacy, a “Replika”, il programma chatbot che non si limita a parlare con le persone, ma impara i loro stili di messaggistica per imitarli. Un vero e proprio “amico virtuale”, soluzione artificiosa presentata come in grado di migliorare il benessere emotivo dell’utente, e che aiuterebbe quest’ultimo a comprendere i propri pensieri e calmare l’ansia, attraverso la gestione dello stress, la socializzazione e la ricerca dell’amore.
“Abbiamo creato Replika a partire dal bisogno di tanti di un rapporto di amicizia vera e la possibilità di sentirsi connessi e apprezzati” spiegava più cinque anni or sono a Il Foglio il cofondatore di Replika Philip Dudchuk. “Replika è un amico basato sull’intelligenza artificiale che le persone possono formare, istruire e nutrire attraverso il dialogo. Tiene compagnia, impara e aiuta gli utenti a scoprire nuovi lati della propria personalità, grazie anche al diario giornaliero delle conversazioni” continuava Dudchuk. Nonostante tale filantropia, l’applicazione non ha convinto però i guardiani della privacy, secondo i quali il software ha caratteristiche che, intervenendo sull’umore della persona, può accrescere i rischi per i soggetti ancora in una fase di sviluppo o in stato di fragilità emotiva.
Replika è dotato di un’interfaccia scritta e vocale che, basandosi sull’Intelligenza artificiale, genera un “amico virtuale”, sfruttando naturalmente i dati personali dell’interlocutore. Troppo per l’arbitro della privacy di Piazza Venezia che, per il momento, ha sventolato il cartellino giallo dicendo che l’applicazione non potrà usare i dati personali degli utenti italiani.
Il Garante della privacy, infatti, ha disposto con effetto immediato nei confronti della società statunitense che sviluppa e gestisce l’applicazione, la limitazione provvisoria del trattamento dei dati. Secondo l’Autorità guidata da Pasquale Stanzione, Replika presenta concreti rischi per i minori d’età, a partire dalla proposizione ad essi di risposte assolutamente inidonee al loro grado di sviluppo. Manca infatti ogni meccanismo di verifica dell’età: filtri per i minori, ma anche blocchi dell’app di fronte a dichiarazioni in cui l’utente espliciti la propria minore età. Durante la fase di creazione di un account la piattaforma si limita a richiedere solo nome, e-mail e genere.
Non va meglio nella proposizione delle “risposte” automatiche da parte del chatbot, che risultano spesso palesemente in contrasto con le tutele rafforzate che vanno assicurate ai minori e a tutti i soggetti più fragili. Diverse recensioni pubblicate nei due principali “App Store”, peraltro, contengono commenti di utenti che lamentano contenuti sessualmente inopportuni.
La società sviluppatrice statunitense, Luka Inc, oltre a dover interrompere il trattamento dei dati degli utenti italiani, dovrà comunicare entro i prossimi giorni le misure intraprese in attuazione di quanto richiesto dal Garante, pena una sanzione fino a 20 milioni di euro o fino al 4% del fatturato globale annuo, così come stabilito dal GDPR.
