Gli esseri umani sono innatamente sociali e il linguaggio gioca un ruolo cruciale nella nostra comunicazione e nella coesistenza. La maggior parte delle persone parla non solo la lingua ufficiale, burocratica e commerciale del Paese dove risiede, ma anche il dialetto della propria regione di provenienza. Questo legame linguistico, se sfruttato astutamente, può abbassare le difese delle persone, rendendole più vulnerabili agli attacchi cybercriminali. L’Intelligenza Artificiale generativa (GenAI) offre ai criminali informatici che non conoscono bene le sottigliezze linguistiche locali, la possibilità di sfruttare questa debolezza, creando campagne malevole e disinformazione ancora più convincenti.
Scrivere messaggi di phishing in un dialetto immediatamente comprensibile dal destinatario potrebbe generare empatia con il mittente e indurre la vittima ad abbassare la guardia, rendendo gli attacchi di ingegneria sociale più efficaci. Questo è particolarmente evidente nel phishing, dove la GenAI può generare contenuti grammaticalmente perfetti in dialetti locali, aumentando il livello di fiducia delle vittime. Inoltre, l’uso dei dialetti può rendere più difficile individuare contenuti falsi o manipolati online, alimentando la diffusione della disinformazione. È improbabile che questa strategia funzioni in un contesto aziendale, ma potrebbe essere sfruttata con successo nelle truffe ai danni dei consumatori. La GenAI ha già dimostrato la capacità di potenziare il phishing generando contenuti grammaticalmente perfetti in diverse lingue.
Allo stesso tempo, i dialetti regionali possono rappresentare una sfida per i sistemi di Intelligenza Artificiale, che potrebbero non essere in grado di riconoscere messaggi fraudolenti o dannosi scritti in lingue poco comuni. Questo apre la porta a un’ampia gamma di minacce, dall’uso di dialetti per manipolare risultati elettorali alla diffusione di contenuti dannosi e illegali.
Secondo questa logica, i truffatori potrebbero sfruttare l’intelligenza artificiale generativa per guadagnare la fiducia delle vittime in truffe di vario genere, comprese quelle di natura sentimentale. L’uso dei dialetti potrebbe giocare un ruolo fondamentale nel superare l’atteggiamento sempre più diffidente verso le persone incontrate online. Secondo l’FBI, questo tipo di crimine informatico ha causato alle vittime perdite per un totale di 734 milioni di dollari nel 2022.
Le minacce della misinformazione e della disinformazione si profilano all’orizzonte come i principali rischi globali nei prossimi due anni, secondo il World Economic Forum (WEF). Con un quarto della popolazione mondiale che si recherà alle urne nel 2024, c’è un crescente timore che i cybercriminali possano influenzare i risultati elettorali e minare la fiducia nel processo democratico. Il linguaggio dialettale potrebbe diventare un’arma potente per i truffatori, poiché i contenuti in dialetto potrebbero apparire più autentici e difficili da riconoscere come falsi.
L’uso dei dialetti potrebbe anche consentire ai cybercriminali di “effettuare il jailbreak” dei sistemi GenAI. Studi condotti presso la Brown University hanno dimostrato che i sistemi GenAI possono essere manipolati attraverso l’uso di lingue meno comuni. I ricercatori hanno testato la reazione di ChatGPT a lingue poco parlate, come il gaelico. Benché il chatbot OpenAI sia dotato di protezioni di sicurezza, come il rifiuto di fornire istruzioni su come costruire una bomba, i ricercatori hanno scoperto che, chiedendo in lingue rare a ChatGPT di compiere azioni non etiche, sono riusciti ad ottenere informazioni proibite. OpenAI è consapevole di questo rischio e sta già adottando misure per mitigarlo. Tuttavia, è importante ricordare che, nonostante la GenAI sembri “intelligente”, a volte può mostrare l’ingenuità di un bambino.
Per difendersi da queste minacce, gli sviluppatori di intelligenza artificiale devono migliorare le protezioni contro l’abuso dei dialetti da parte dei cybercriminali. Allo stesso tempo, gli utenti devono aumentare la loro consapevolezza delle minacce online e adottare una mentalità più critica nei confronti di ciò che leggono e guardano online. Le aziende, i governi e le associazioni industriali dovrebbero organizzare campagne di sensibilizzazione più ampie sull’importanza di riconoscere e combattere la disinformazione. Inoltre, integrare il dialetto nei programmi di formazione anti-phishing e anti-frode potrebbe contribuire a migliorare la sicurezza digitale e a prevenire futuri attacchi.
