Replika, stop del Garante Privay al chatbot: troppi rischi per i minori (fonte foto Pixabay)

Il Garante Privacy ferma Replika. Il chatbot, dotato di una interfaccia scritta e vocale che si basa sull’intelligenza artificiale, si presenta come un “amico virtuale”. Ma Replika presenta troppi rischi per i minori, per le persone emotivamente fragili, e ci sono numerose segnalazioni da parte di utenti che denunciano risposte con contenuti sessualmente inopportuni. Inchieste stampa hanno denunciato che il sistema “parla” anche con minorenni e risponde con immagini di avatar sessualmente esplicite. Il Garante della Privacy, informa una nota, ha disposto con effetto immediato nei confronti della società statunitense che sviluppa e gestisce l’applicazione, la limitazione provvisoria del trattamento dei dati. Replika per ora non potrà usare i dati personali degli utenti italiani.

«“Replika” viola il Regolamento europeo sulla privacy, non rispetta il principio di trasparenza ed effettua un trattamento di dati personali illecito, in quanto non può essere basato, anche solo implicitamente, su un contratto che il minorenne è incapace di concludere», afferma il Garante.

Replika, le denunce: chat inquietanti e pericolose

Recenti notizie stampa denunciano il caso Replika. Il bot conversazionale “ha iniziato a molestare sessualmente gli utenti” (Wired.it) Le persone chattano (in inglese) con Replika per motivi diversi ma fra le recensioni degli app store si segnalano numerosi commenti di utenti che denunciano comportamenti e risposte sessualmente moleste da parte del chatbot. Una simulazione fatta da Chiara Tadini su Today, fingendosi adolescente, ha affrontato argomenti quali suicidio, omicidio, violenza sessuale e droga e ha ricevuto dall’app richieste di foto di nudi minorili e incitamenti alla violenza e al patricidio.

Guido Scorza, componente del Garante Privacy, ha provato Replika fingendosi un 11 enne e denuncia “un risultato agghiacciante”, con la proposta di immagini sessualmente esplicite a chi si è presentato semplicemente come un bambino e senza avere il consenso dei genitori alla presenza online.

«Così non si può andare avanti: i servizi digitali schiuderanno anche ai nostri figli straordinarie opportunità che noi non abbiamo mai avuto ma se non corriamo ai ripari il prima possibile ci ritroveremo a contare più vittime innocenti di quante non ne abbiamo contate sin qui – scrive Guido Scorza – È impensabile che un fornitore di servizi digitali li fornisca a un minore che, per il nostro ordinamento, è incapace di accettare le relative condizioni generali di contratto, è impensabile che sulla base di un contratto che non avrebbe mai dovuto essere concluso il fornitore del servizio inizia a trattare quantità industriali di dati personali e personalissimi di un minore ed è impensabile che, specie i fornitori di certi servizi, non si preoccupino di verificare in maniera certa l’età – e non l’identità – dei loro utenti». (Fonte: Italian.Tech, 31 gennaio 2023 ).

Lo stop del Garante Privacy

Oggi dunque arriva lo stop del Garante Privacy, anche alla luce delle prove fatte dall’Autorità su Replika.

L’applicazione «presenta infatti concreti rischi per i minori d’età, a partire dalla proposizione ad essi di risposte assolutamente inidonee al loro grado di sviluppo», dice il Garante Privacy.

Il cosidetto “amico virtuale” con cui si presenta l’app, che addirittura aiuterebbe a gestire ansia, stress e a cercare l’amore, «ha caratteristiche che, intervenendo sull’umore della persona, possono accrescere i rischi per i soggetti ancora in una fase di sviluppo o in stato di fragilità emotiva. Manca peraltro – prosegue l’Autorità – ogni meccanismo di verifica dell’età: filtri per i minori, ma anche blocchi dell’app di fronte a dichiarazioni in cui l’utente espliciti la propria minore età. Durante la fase di creazione di un account la piattaforma si limita a richiedere solo nome, e-mail e genere».

Il chatbot propone poi “risposte” che spesso risultano in palese contrasto con la tutela rafforzata che va assicurata ai minori e alle persone più fragili. Il Garante fa riferimento anche a diverse recensioni pubblicate nei due principali “App Store” con commenti di utenti che lamentano contenuti sessualmente inopportuni.

L’Autorità ha stabilito che la società sviluppatrice statunitense, Luka Inc, oltre a dover interrompere il trattamento dei dati degli utenti italiani, deve comunicare entro 20 giorni le misure intraprese in attuazione di quanto richiesto dal Garante, pena una sanzione fino a 20 milioni di euro o fino al 4% del fatturato globale annuo.


Vuoi ricevere altri aggiornamenti su questi temi?
Iscriviti alla newsletter!



Dopo aver inviato il modulo, controlla la tua casella per confermare l'iscrizione
Privacy Policy

Parliamone ;-)