Un esempio recente riguarda un attacco subito dal senatore americano Ben Cardin, vittima di una truffa durante una videoconferenza su Zoom con una persona che si è spacciata per l'ex ministro degli Esteri ucraino, Dmytro Kuleba. Grazie all'uso di un deepfake convincente, gli autori della truffa hanno cercato di ottenere informazioni politicamente sensibili, portando a un allarme immediato e a un'indagine da parte delle autorità americane.

La minaccia del deepfake

Ciò che ha insospettito il senatore Cardin sono state alcune domande a sfondo politico relative alle prossime elezioni e qualcosa anche sul suo appoggio o meno all’uso di missili a lungo raggio in territorio russo.
Lo stesso Cardin ha così commentato l’accaduto: “Dopo aver capito immediatamente che l’individuo con cui stavo parlando non era chi diceva di essere, ho chiuso la telefonata e il mio ufficio ha agito rapidamente, allertando le autorità competenti […] La questione è ora nelle mani delle forze dell’ordine ed è in corso un’indagine approfondita”.
Eyal Benishti, CEO di Ironscales, ha affermato che: “A livello governativo [i deepfake], minacciano la sicurezza nazionale e possono minare i processi democratici”.

Numeri preoccupanti del fenomeno deepfake

Secondo il rapporto di Trend Micro, la portata di questa minaccia è crescente, con un 64% di consumatori che ha visto video deepfake e un 35% che ha subito una truffa legata a questa tecnologia. La facilità di accesso a strumenti di intelligenza artificiale generativa ha reso questi attacchi sempre più difficili da distinguere dalla realtà, rendendo necessarie nuove misure di difesa.
Come fa notare Benishti, “Questi attacchi stanno diventando sempre più sofisticati e spesso indistinguibili dalla realtà, grazie all’accessibilità degli strumenti di IA generativa”. E, aggiunge, il problema è che non ci sono ancora metodi infallibili che li possano smascherare facilmente.

L’esperimento di Sophos

Sophos sta sviluppando contromisure per contrastare questa minaccia. Un loro esperimento ha dimostrato come la generazione di truffe tramite tecnologie AI sia diventata molto più accessibile. La creazione di siti web fraudolenti, che un tempo richiedeva competenze specialistiche, oggi può essere realizzata anche da persone con una limitata esperienza grazie all'uso di Large Language Models (LLM).
I due analisti di Sophos, Younghoo Lee e Ben Gelman , affermano come, data la crescente tendenza all’uso improprio dell’intelligenza artificiale, “Per contrastare queste minacce, stiamo sviluppando il nostro modello di AI Security Co-Pilot, progettato per identificare queste nuove minacce e automatizzare le nostre operazioni di sicurezza”.

FONTE: Cybersecurity360