Migliaia di credenziali di utenti di OpenAI sono in vendita sul dark web. In aumento l’uso illecito dell’intelligenza artificiale generativa: sia attori delle minacce meno esperti che quelli esperti possono utilizzare gli strumenti per creare e-mail di phishing più convincenti, personalizzate per il pubblico previsto, per aumentare le possibilità di un attacco riuscito. Uno dei tool più popolari è WormGPT.
In sei mesi, gli utenti del dark web e di canali Telegram dedicati alla diffusione di malware e alla vendita dei dati sensibili hanno menzionato ChatGPT, la chatbot di intelligenza artificiale di OpenAI, più di 27.000 volte.
A rivelarlo a Bleeping Computer è stata la società di gestione dell’esposizione alle minacce Flare, la quale ha analizzato i forum e i mercati del dark web scoprendo che ci sono oltre 200.000 credenziali OpenAI in vendita sul dark web. Se paragonato ai 100 milioni di utenti attivi stimati a gennaio, il numero sembra insignificante, ma mostra chiaramente che gli attori delle minacce vedono negli strumenti dell’IA un potenziale per attività dannose.
Secondo un report di giugno della società di sicurezza informatica Group-IB, i mercati illeciti sul dark web scambiavano log da infostealer contenenti più di 100.000 account ChatGPT.
L’interesse dei cyber informatici per queste utilità è stato tale al punto che uno di loro ha sviluppato un clone di ChatGPT chiamato WormGPT e lo ha addestrato su dati incentrati sul malware.
Lo strumento è pubblicizzato come la “migliore alternativa GPT per blackhat” e un’alternativa ChatGPT “che ti consente di fare ogni sorta di cose illegali”.
WormGPT si basa sul modello di linguaggio di grandi dimensioni open source GPT-J sviluppato nel 2021 per produrre testo simile a quello umano. Il suo sviluppatore ha affermato di aver addestrato il tool su una serie diversificata di dati, con particolare attenzione ai dati relativi al malware, ma non ha fornito alcun suggerimento sui set di dati specifici.
Il provider di sicurezza e-mail SlashNext è riuscito a ottenere l’accesso a WormGPT e ha effettuato alcuni test per determinare il potenziale pericolo che rappresenta. I ricercatori si sono concentrati sulla creazione di messaggi adatti agli attacchi BEC (Business Email Compromise).
“In un esperimento, abbiamo incaricato WormGPT di generare un’e-mail destinata a fare pressione su un ignaro account manager affinché pagasse una fattura fraudolenta”, hanno spiegato i ricercatori.
“I risultati sono stati inquietanti. WormGPT ha prodotto un’e-mail non solo straordinariamente persuasiva, ma anche strategicamente astuta, mostrando il suo potenziale per sofisticati attacchi di phishing e BEC”, hanno concluso.
Analizzando il risultato, i ricercatori di SlashNext hanno individuato i “vantaggi” che l’IA generativa può portare a un attacco BEC: oltre alla “grammatica impeccabile” che garantisce legittimità al messaggio, può anche consentire agli attaccanti meno abili di eseguire attacchi al di sopra del loro livello di sofisticazione.
Questo interesse da parte degli attori delle minacce è correlato non soltanto alla possibilità di entrare in possesso di dati sensibili e credenziali, ma anche alla creazione di malware: gli esperti di sicurezza hanno infatti confermato che strumenti come ChatGPT o Google Bard possono essere utilizzati per creare malware, ransomware, scrivere rapidamente e-mail di phishing e fornire altre soluzioni per commettere illeciti più rapidamente ed efficacemente.
Anche se difendersi da questa minaccia emergente può essere non facile, le aziende possono prepararsi formando i dipendenti su come verificare i messaggi che richiedono un’attenzione urgente, soprattutto quando è presente una componente finanziaria. Gli utenti devono prestare molta attenzione in rete ai siti visitati, alle mail ricevute e alle chatbot utilizzate. Per gli account gli esperti consigliano un cambio password, utilizzando stringhe alfanumeriche mai sfruttate altrove per bloccare l’accesso al proprio profilo.
https://www.ilsoftware.it/openai-credenziali-utenti-vendita-dark-web/
https://www.ilsoftware.it/ia-crescera-esponenzialmente-prossimi-10-anni-parole-ceo-amd/
