Deepfake sessuali, Autorità irlandese apre indagine su X

Continua la reazione contro i deepfake sessuali generati su X. La Commissione per la protezione dei dati (DPC) d’Irlanda, agendo per conto dell’Unione europea, ha avviato “un’indagine su larga scala” su X in relazione alla generazione di immagini dannose e sessualizzate, non consensuali, che investono anche i bambini.

È l’ultimo passo di una generale reazione alla creazione di deepfake sessuali sulla piattaforma social, attraverso le funzionalità di Grok, il servizio di intelligenza artificiale integrato in X.

Indagine su X

L’indagine, informa una nota dell’Autorità indipendente, “ riguarda l’apparente creazione e pubblicazione sulla piattaforma X di immagini intime e/o sessualizzate potenzialmente dannose e non consensuali” che coinvolgono cittadini europei “compresi i bambini, utilizzando funzionalità di intelligenza artificiale generativa associate al modello linguistico Grok all’interno della piattaforma X”.

La decisione di avviare l’indagine è stata notificata ieri a X. L’inchiesta riguarda potenziali violazioni del GDPR, il regolamento generale sulla protezione dei dati, inclusi gli obblighi previsti dall’articolo 5 (principi del trattamento), dall’articolo 6 (liceità del trattamento), dall’articolo 25 (protezione dei dati fin dalla progettazione e per impostazione predefinita) e dall’articolo 35 (obbligo di effettuare una valutazione d’impatto sulla protezione dei dati)

Nell’annunciare l’inizio dell’indagine, il vice commissario Graham Doyle ha dichiarato che la Commissione ha avviato un dialogo con X “da quando, alcune settimane fa, sono emerse le prime notizie sui media riguardanti la presunta capacità degli utenti X di indurre l’account @Grok su X a generare immagini sessualizzate di persone reali, compresi bambini”.

In qualità di “autorità di controllo principale” per X nell’Ue, la Commissione ha dunque avviato “ un’indagine su larga scala” che esaminerà la conformità di X ad alcuni dei suoi obblighi fondamentali ai sensi del GDPR.

Sotto accusa dalla Ue, X ha dichiarato il mese scorso di aver limitato la generazione e l’editing delle immagini di Grok agli abbonati paganti (Ansa).

Deepfake sessuali in aumento

I deepfake generati da Grok sono al centro dell’azione dell’Unione europea. A gennaio la Commissione ha avviato infatti una nuova indagine verso X ai sensi della legge sui servizi digitali e ha esteso una precedente indagine, avviata nel dicembre 2023, che valuterà le conseguenze dell’integrazione di Grok all’interno del social network, compreso appunto il rischio di deepfake sessuali.

L’Unicef ha denunciato che c’è un rapido aumento del volume di immagini sessualizzati generate dall’AI che coinvolgono bambini e minorenni attraverso la manipolazione delle loro immagini. Sono a tutti gli effetti abusi sessuali su minori. In uno studio condotto da Unicef, ECPAT e INTERPOL in 11 paesi è emerso che “almeno 1,2 milioni di bambini hanno rivelato che le loro immagini sono state manipolate in deepfake sessualmente espliciti nell’ultimo anno – ha denunciato l’Unicef – In alcuni paesi, ciò rappresenta 1 bambino su 25, l’equivalente di un bambino in una classe tipica”.