Un team di ricercatori ha sviluppato e presentato quello che definiscono uno dei primi worm informatici basati sull’intelligenza artificiale generativa, un’innovativa minaccia capace di propagarsi da un sistema all’altro per sottrarre dati o diffondere malware. Questo nuovo tipo di attacco, battezzato Morris II in omaggio al famigerato worm che nel 1988 ha messo in crisi Internet, è stato sviluppato da Ben Nassi, Stav Cohen e Ron Bitton della Cornell Tech.
Il worm Morris II, secondo quanto riportato per la prima volta dai ricercatori a Wired, ha la capacità di mirare agli assistenti email basati su IA per rubare informazioni sensibili e inviare spam, bypassando le difese dei sistemi come ChatGPT e Gemini. Questa scoperta pone una nuova sfida nel campo della sicurezza informatica, aprendo la porta a cyberattacchi senza precedenti.
Secondo quanto riportato a Wired, il worm Morris II è in grado di prendere di mira gli assistenti email basati su IA, sfruttandoli per rubare informazioni sensibili e inviare spam, aggirando le difese di sistemi come ChatGPT e Gemini. Questa scoperta rivela una nuova frontiera nel campo della sicurezza informatica, aprendo la strada a cyberattacchi mai visti prima.
La ricerca mette in luce la crescente vulnerabilità dei sistemi di intelligenza artificiale, sempre più abili nella produzione di testi, immagini e video. Poiché questi sistemi sono programmati tramite comandi diretti, possono essere manipolati per compiere azioni dannose, come il rilascio di contenuti dannosi o l’esecuzione di attacchi mirati.
I ricercatori hanno dimostrato come sia possibile manipolare questi sistemi tramite comandi auto-replicanti, diffondendo il worm attraverso le banche dati degli assistenti email. Questi assistenti, diversi dai tradizionali client email, sono servizi basati sull’intelligenza artificiale che aiutano gli utenti nella gestione della posta elettronica. Le funzionalità possono includere suggerimenti per la scrittura di risposte automatiche o semi-automatiche, organizzazione delle email in base alla priorità, al mittente o all’argomento, programmazione di email da inviare in momenti specifici e riepilogo delle email importanti o non lette.
Durante gli esperimenti, i ricercatori hanno interagito con sistemi email gestiti da IA come ChatGPT, Gemini e LLaVA, scoprendo come sfruttare le vulnerabilità per diffondere il worm attraverso testo e immagini. Per creare il worm, hanno utilizzato un “prompt auto-replicante avversario”, un comando che induce l’IA a generare ulteriori istruzioni nella sua risposta, simile agli attacchi tradizionali di iniezione SQL e buffer overflow.
Nonostante la dimostrazione delle lacune nei sistemi di ChatGPT e Gemini, i ricercatori hanno chiarito che il loro obiettivo è sensibilizzare sull’importanza di affrontare questa problematica. Hanno informato Google e OpenAI delle loro scoperte, ottenendo risposte impegnate a rendere i propri sistemi più sicuri e resilienti.
Gli esperti di sicurezza informatica avvertono che il rischio futuro rappresentato dai worm AI generativi è significativo, soprattutto in scenari in cui le applicazioni di intelligenza artificiale operano autonomamente per conto dell’utente. Tuttavia, esistono strategie difensive come il design sicuro delle applicazioni e un monitoraggio costante per mitigare questi rischi.
Mentre gli attacchi dimostrati sono stati condotti in un ambiente controllato, è necessaria una maggiore consapevolezza dei rischi associati all’integrazione crescente dell’intelligenza artificiale, insieme allo sviluppo di adeguate strategie di mitigazione.
https://www.securityinfo.it/2024/04/23/creato-worm-gestito-da-ia-propaga-tra-sistemi-informatici/
