DeepSeek, Antitrust accetta impegni sul rischio di allucinazioni dell’AI

L’Antitrust accetta gli impegni di DeepSeek sul rischio di allucinazioni del modello di intelligenza artificiale e chiude il procedimento che aveva avviato, senza accertare l’infrazione. Gli impegni proposti riguardano un pacchetto di misure volto a migliorare l’informativa sul rischio di “allucinazioni”, ovvero la produzione di risultati inesatti, fuorvianti o inventati da parte della piattaforma di intelligenza artificiale.

Il rischio di “allucinazioni”

L’anno scorso Antitrust aveva infatti aperto un’istruttoria verso le società Hangzhou DeepSeek Artificial Intelligence e Beijing DeepSeek Artificial Intelligence, che insieme detengono e gestiscono il sistema di intelligenza artificiale noto come DeepSeek. Questo offre i propri servizi di IA in forma gratuita e open-source. La contestazione che veniva fatta dall’Antitrust a DeepSeek era quella di non dare informazioni adeguate sui rischi che derivano dall’uso dei modelli di intelligenza artificiale in relazione alle risposte fuorvianti, inesatte o inventate che il modello può restituire di fronte a una domanda.

Nell’avvio del procedimento, si legge nel bollettino del 5 gennaio 2026, l’Antitrust contestava a DeepSeek “l’insufficiente informativa all’utenza dei propri modelli di IA circa la possibilità che gli stessi incorrano in quelle che in gergo tecnico prendono il nome di “allucinazioni” (situazioni cioè in cui, a fronte di un dato input inserito da un utente, il modello di IA genera uno o più output contenenti informazioni inesatte, fuorvianti o inventate)”.

Nel procedimento si legge che la stessa DeepSeek “ha rappresentato che il fenomeno delle allucinazioni dei modelli di IA rappresenta, a livello mondiale, una sfida oggettiva e ineliminabile per tutti gli operatori del settore, in quanto nessun AI provider ha trovato un metodo per risolvere in toto detto fenomeno, che può soltanto essere mitigato”.

Gli impegni di DeepSeek

Detto questo, DeepSeek nel corso del 2025 ha presentato una serie di impegni ora accettati e resi obbligatori dall’Antitrust, che riguardano l’inserimento di alcuni banner informativi e, più in generale, anche l’impegno a cercare di intervenire tecnologicamente per ridurre il fenomeno delle allucinazioni già alla radice.

“Gli impegni consistono in un pacchetto di misure volto a migliorare l’informativa sul rischio di allucinazioni, nonché a mitigarne l’effettiva ricorrenza anche da un punto di vista sostanziale”, spiega l’Antitrust.

Sono quattro le linee di intervento degli impegni.

• DeepSeek si impegna a inserire un “banner informativo permanente – in lingua italiana” al di sotto del box presente nella chat per l’input dei prompt (cioè la finestra di dialogo). Il banner sarà visibile durante l’uso e conterrà un messaggio esplicito di questo tipo: “Contenuto generato da IA. Verifica sempre l’accuratezza delle risposte, che possono contenere inesattezze”. Il messaggio apparirà in automatico in italiano se l’utenza inserisce input in italiano. DeepSeek si impegna a implementare un ulteriore banner informativo permanente in lingua italiana, dal contenuto analogo, anche nella pagina di sign-up (cioè primo accesso al servizio), dove sarà collocato prima del pulsante blu “Registrati”;
• DeepSeek si impegna a rafforzare l’informativa sui rischi connessi alle allucinazioni dell’IA attraverso l’inserimento di un ulteriore banner informativo in lingua italiana direttamente in chat, all’interno delle risposte generate a valle di query su tematiche ritenute di particolare sensibilità, come in ambito medico, legale, finanziario. Il messaggio sarà del tipo: “Questa risposta è generata da IA. Controllarne l’accuratezza”;
• DeepSeek si impegna a tradurre integralmente in lingua italiana le “condizioni generali”/“termini di utilizzo” del servizio (‘T&C’), inclusa la parte relativa ai rischi di allucinazione, attualmente disponibili soltanto in lingua inglese;
• -DeepSeek assume inoltre l’impegno di migliorare i propri modelli di IA, focalizzandosi dettagliatamente sul problema delle allucinazioni.

L’obiettivo in quest’ultimo caso sarà quello di una riduzione stessa delle allucinazioni, anche attraverso le fasi di addestramento dell’Intelligenza artificiale.

“Gli impegni presentati da DeepSeek facilitano, rendono più trasparente, intellegibile e immediata l’informativa sul rischio di allucinazioni”, conclude dunque l’Antitrust. Per quanto riguarda l’ investimento tecnologico che riduca le allucinazioni alla radice, per l’Antitrust con questo impegno “Deepseek si impegna a migliorare sostanzialmente il funzionamento intrinseco dei propri modelli di IA per ridurre la quantità di allucinazioni da essi prodotte in media in valore assoluto. Tale impegno assume pertanto sotto l’aspetto tecnologico particolare rilevanza, costituendo una sperimentazione per l’auto-correzione dei modelli di IA”.