I deepfake, un tipo di contenuti multimediali sintetici, come immagini, video o audio manipolati o interamente generati dall’intelligenza artificiale, rappresentano un grave rischio per la sicurezza poiché possono essere utilizzati per ingannare e manipolare le persone, nonché per diffondere disinformazione.
In questo articolo, gli esperti di Cyberment analizzano il pericolo del phishing deepfake e i potenziali rischi che esso comporta per la sicurezza individuale e delle organizzazioni. Vengono inoltre forniti consigli pratici su come riconoscere e proteggersi da questa minaccia emergente.
Cos’è il Phishing Deepfake?
«Il phishing deepfake è una combinazione di due minacce informatiche: il phishing e i deepfake.
Questa pratica fraudolenta coinvolge l’utilizzo di contenuti multimediali manipolati, come video o registrazioni audio deepfake, per impersonare utenti o società fidate o addirittura, autorità. L’obiettivo principale è indurre le vittime a compiere azioni mirate, come condividere informazioni sensibili o effettuare transazioni finanziarie.
Per esempio, un truffatore potrebbe creare un video deepfake di un dirigente aziendale in cui sembra che stia dando istruzioni ai dipendenti per trasferire fondi a un conto bancario controllato dal truffatore. Questo video potrebbe essere utilizzato in combinazione con tecniche di phishing tradizionali, come e-mail o siti web contraffatti, per convincere i dipendenti a seguire le istruzioni apparentemente provenienti dal loro superiore.
Tempo fa persino Elon Musk è stato il protagonista di un tentativo di deepfake pishing.
L’organizzazione indipendente di fact-checking Full Fact ha lanciato un avvertimento riguardo alle truffe online dopo la circolazione su Facebook di video deepfake che sembrano mostrare proprio Musk promuovere un progetto di investimento alla BBC.
In questi video, che coinvolgevano anche Matthew Amroliwala e Sally Bundock della BBC, Elon Musk sembrava discutere di un nuovo progetto di investimento che prometteva di far guadagnare fino a £5.700 al giorno ai “residenti britannici”.
Uno dei post includeva “un link esterno a un falso articolo di BBC News riguardante l’ipotetico progetto di investimento”, fornendo collegamenti per iscriversi. Tuttavia, inserendo i propri dati, si finiva per consegnare i propri dati personali ai criminali dietro la truffa.
Non è chiaro da dove siano originati i video, ma una cosa è certa: non sono mai stati trasmessi dalla BBC. Nonostante ciò, hanno accumulato più di 50.000 visualizzazioni prima di essere rimossi. Questi numeri spaventano sicuramente se si pensa alle conseguenze devastanti che questo tipo di attacco può avere.
Il funzionamento del phishing deepfake
Il phishing deepfake è un processo sofisticato che richiede diverse fasi:
- La prima fase coinvolge la creazione del contenuto deepfake.
Questo può essere un video o una registrazione audio in cui un’IA manipola il volto, la voce e il comportamento di una persona per farla sembrare autentica. Questa tecnologia è diventata sempre più accessibile negli ultimi anni, il che rende più semplice per i truffatori creare contenuti credibili.
- Dopo aver creato il contenuto deepfake, i truffatori selezionano le loro vittime. Questa scelta può essere basata su informazioni raccolte in precedenza attraverso il phishing tradizionale o l’uso di social engineering.
- I truffatori distribuiscono il contenuto deepfake alle loro vittime attraverso vari canali, come e-mail, messaggi via chat su social media o siti web compromessi.
Le vittime sono indotte a compiere azioni indesiderate, come condividere informazioni sensibili o compiere transazioni finanziarie, sulla base della credibilità del deepfake e delle istruzioni false fornite.
Come riconoscere un video deepfake?
Il dottor Dominic Lees, professore associato di cinematografia e coordinatore del Synthetic Media Research Network dell’Università di Reading, ha dichiarato a Full Fact che è facile creare video deepfake con la tecnologia di clonazione vocale disponibile liberamente, la quale può essere addestrata con “appena 15 secondi di discorso reale”.
Lees ha aggiunto: “Le versioni a bassa qualità di questa clonazione vocale producono risultati molto innaturali. Gli spettatori dovrebbero sempre mostrare cautela nei confronti dei contenuti online – se sembrano innaturali, è probabile che siano falsi”.
Tuttavia, poiché il software di clonazione vocale basato sull’intelligenza artificiale diventa sempre più avanzato e la tecnologia di editing video che un tempo era prerogativa degli studi cinematografici di Hollywood diventa più accessibile a tutti, le truffe basate sui deepfake diventeranno sempre più diffuse.
Tutto ciò comporta maggiore difficoltà nel riconoscere tali truffe.
Tuttavia, vi sono comunque alcune misure che è possibile adottare per ridurre il rischio di cadere nella trappola del deepfake.
- Cercare anomalie visive, come sfocature, tremolii oppure segnali audio insoliti, come una voce distorta o robotica.
- Mostrare scetticismo nei confronti di video concepiti per provocare una risposta emotiva.
Proprio come le e-mail di phishing spesso cercano di creare un falso senso di urgenza per spingere le vittime ad agire rapidamente, senza riflettere, i video deepfake mirano a manipolare gli spettatori affinché agiscano impulsivamente.
- Utilizzare siti web o altre fonti credibili per verificare le notizie o le informazioni presenti nei video prima di condividerle.
- Prestare attenzione al viso, in particolare alle guance e alla fronte. La pelle appare troppo liscia o con troppe rughe? L’invecchiamento della pelle è simile all’invecchiamento dei capelli e del resto del corpo? I DeepFake potrebbero non essere congruenti su molti aspetti.
- Prestare attenzione agli occhi e alle sopracciglia.
Appaiono ombre nei punti in cui ci si aspetterebbe? Questo tipo di video potrebbero non riuscire a rappresentare completamente il contesto in cui si trova una persona (esempio regolazione della luce in un luogo all’aperto al chiuso.
E ancora…
- Prestare attenzione agli occhiali. Le ombre e i riflessi appaiono naturali? Ancora una volta, i DeepFake potrebbero non riuscire a rappresentare completamente la regolazione della luce.
- Attenzione alla presenza o assenza della barba. Questa barba sembra reale? I DeepFake potrebbero aggiungere o rimuovere baffi, basette o barba, ma potrebbero non rendere completamente naturali le trasformazioni della barba.
- Prestare attenzione ai nei facciali. I nei devono sempre sembrare naturali e soprattutto seguire il corpo.
- Prestare attenzione al battito delle palpebre. La persona batte abbastanza spesso le palpebre o troppo frequentemente?
- Prestare attenzione ai movimenti delle labbra.
Alcuni DeepFake si basano sulla sincronizzazione delle labbra. In tantissimi video di questo tipo, le labbra non sono sincronizzate con la voce.
Riduzione dei rischi del Phishing Deepfake
Il phishing deepfake potrebbe rappresentare una minaccia molto più grave per le organizzazioni e i loro dipendenti.
Le imprese potrebbero essere esposte a un rischio maggiore di frodi finanziarie. Poiché la tecnologia deepfake è già ampiamente diffusa, chiunque con cattive intenzioni potrebbe sfruttarla per creare discorsi e video falsificati al fine di eseguire sofisticati attacchi di phishing.
La chiave per mitigare i rischi associati ai deepfake è coltivare e potenziare le conoscenze tra i dipendenti e rafforzare la cultura aziendale in materia di sicurezza informatica».
https://cyberment.it/notizie-cyber-security/deepfake-phishing-tutto-quello-che-sappiamo/
