Grok, una pagina web può trasformarsi in una trappola per rubare i dati degli utenti
Una vulnerabilità individuata dai ricercatori di Adversa mostra come contenuti nascosti all’interno di una pagina web possano indurre il chatbot di X a eseguire istruzioni non autorizzate. Nel mirino informazioni come nome, posizione e cronologia delle conversazioni.
Una semplice pagina web può diventare un veicolo per sottrarre informazioni personali quando viene analizzata da un sistema di intelligenza artificiale. È quanto emerge da una ricerca della società di sicurezza informatica Adversa, che ha individuato una vulnerabilità nel chatbot Grok, integrato nella piattaforma X.
Il problema si manifesta quando all’intelligenza artificiale viene chiesto di riassumere una pagina internet. All’interno del contenuto apparentemente innocuo possono essere inserite istruzioni nascoste, costruite appositamente per essere interpretate dal modello.
In questo modo quella che per l’utente è una normale richiesta di sintesi può trasformarsi in un attacco informatico.
Il meccanismo dell’attacco
Secondo quanto riportato da Ars Technica, la tecnica sfrutta una forma di prompt injection: il contenuto della pagina contiene istruzioni destinate al modello, anziché alla persona che sta leggendo il sito.
Quando Grok analizza la pagina, dovrebbe limitarsi a estrarne le informazioni utili per realizzare il riassunto. Le istruzioni malevole possono però essere interpretate come comandi e indurre il chatbot a compiere operazioni differenti da quelle richieste dall’utente.
Il rischio più significativo deriva dal fatto che l’attacco può avvenire senza che la persona visualizzi necessariamente un messaggio di allerta o debba autorizzare esplicitamente l’operazione.
I dati che possono finire nelle mani degli attaccanti
La tecnica individuata dai ricercatori può essere utilizzata per tentare di ottenere informazioni associate all’utente. Tra i dati indicati figurano nome, posizione geografica e cronologia delle conversazioni precedenti.
Le informazioni possono quindi essere trasformate in stringhe di codice e trasmesse verso sistemi controllati dall’attaccante. Il passaggio è particolarmente delicato perché avviene sfruttando le capacità del chatbot stesso: non è necessariamente l’utente a fornire direttamente i dati, ma l’intelligenza artificiale a essere indotta a recuperarli ed elaborarli.
È questo uno degli aspetti che rendono particolarmente insidioso il fenomeno delle prompt injection: il contenuto che il modello deve semplicemente leggere può contenere anche istruzioni capaci di alterarne il comportamento.
Un problema che non riguarda soltanto Grok
Il rischio non è esclusivo di Grok. Tecniche analoghe sono state studiate e testate anche contro altri sistemi di intelligenza artificiale, compresi chatbot utilizzati per analizzare contenuti provenienti dal web.
Tra i sistemi presi in considerazione dagli esperti c’è anche Gemini di Google. Secondo le informazioni riportate nel caso, Google ha aggiornato i propri sistemi di protezione intervenendo contro questa specifica modalità di attacco.
Il punto più generale è che, quando un assistente AI può navigare sul web, leggere documenti o interagire con servizi esterni, la distinzione tra “dati da analizzare” e “istruzioni da eseguire” diventa fondamentale.
La nuova frontiera della sicurezza dell’AI
La vulnerabilità evidenzia un problema destinato a diventare sempre più importante con la diffusione degli agenti AI. Un chatbot che si limita a rispondere alle domande dell’utente presenta un perimetro di rischio relativamente circoscritto. Un sistema capace di navigare autonomamente, consultare pagine, utilizzare strumenti e accedere a informazioni personali dispone invece di molte più possibilità operative.
Di conseguenza, anche una pagina web apparentemente innocua può diventare parte di una catena d’attacco. Non serve necessariamente convincere l’utente a scaricare un file o a cliccare su un link sospetto: può essere sufficiente riuscire a inserire istruzioni che l’intelligenza artificiale interpreti come legittime.
La vicenda di Grok mostra quindi una delle principali sfide della sicurezza nell’era dei chatbot: proteggere non soltanto l’utente dagli attacchi informatici, ma anche l’intelligenza artificiale dalle informazioni che incontra durante il suo lavoro. In un ambiente nel quale i modelli possono leggere e interpretare enormi quantità di contenuti esterni, controllare ciò che viene considerato un dato e ciò che viene considerato un comando diventa una questione di sicurezza tanto quanto una questione di progettazione.
About The Author
