Quando i deepfake fecero la loro comparsa qualche anno fa, sembravano un esercizio di stile tecnologico: volti scambiati nei video, voci imitate con esiti talvolta buffi, un fenomeno che suscitava curiosità più che timore. Oggi, però, la situazione è radicalmente mutata e la dimensione sperimentale ha lasciato il posto a un ecosistema criminale che sfrutta intelligenza artificiale e algoritmi generativi per trarre vantaggi concreti. Il report “Deepfake it ‘til You Make It”, pubblicato da Trend Micro, ha documentato in modo sistematico come queste tecnologie siano entrate nell’arsenale quotidiano dei truffatori, degli estorsori e persino di chi orchestra operazioni di disinformazione politica. Non si tratta più di scenari ipotetici: dalle truffe finanziarie ai finti rapimenti telefonici, dalle campagne di sextortion ai video manipolati di personalità pubbliche, i casi reali crescono in maniera esponenziale e dimostrano che il deepfake è ormai un rischio concreto per individui, aziende e istituzioni.
Una delle prime evidenze che emergono dal report riguarda la facilità con cui i malintenzionati accedono a strumenti legittimi, originariamente sviluppati per scopi creativi o commerciali. Software di clonazione vocale pensati per l’industria degli audiolibri o per i servizi clienti, piattaforme di avatar in tempo reale destinate a videoconferenze e presentazioni aziendali, applicazioni di face-swap nate per intrattenimento: tutto questo diventa immediatamente utilizzabile per frodi, truffe o manipolazioni. I costi sono irrisori, spesso inferiori a un abbonamento a un servizio di streaming, e l’efficacia è sorprendente anche con versioni non professionali.
Il vero salto di qualità sta nella combinazione tra intelligenza artificiale e social engineering. I truffatori non si limitano a inviare messaggi generici come accadeva nel phishing tradizionale, ma costruiscono sceneggiature in cui l’AI recita un copione realistico, amplificando emozioni come l’urgenza, l’autorità apparente e la paura. Una voce clonata che chiede un bonifico urgente, un volto conosciuto che appare in una videocall per confermare una transazione, un dirigente che ordina di cambiare un IBAN: il convincimento diventa quasi inevitabile, perché la tecnologia maschera ogni sospetto.
La pericolosità non deriva soltanto dalla qualità sempre più alta delle simulazioni, ma dal fatto che chiunque con un minimo di competenze può produrle. Non serve più una rete criminale sofisticata: basta un portatile, una connessione e una manciata di dollari per avere a disposizione uno strumento di manipolazione psicologica tra i più potenti mai visti.
I casi reali che mostrano la vulnerabilità del sistema
La forza del report non sta soltanto nell’analisi teorica, ma nelle testimonianze di episodi già accaduti e verificati. Tra i più eclatanti vi è quello di Hong Kong, dove un dipendente di una grande azienda ha eseguito 15 bonifici per un totale di 25 milioni di dollari dopo aver partecipato a una videocall con dirigenti che, in realtà, erano avatar generati dall’intelligenza artificiale. Il livello di verosimiglianza era tale che la truffa è stata scoperta solo quando il denaro era ormai sparito.
Non si tratta di un episodio isolato: truffe simili sono state registrate in Europa e negli Stati Uniti, con criminali che hanno utilizzato volti e voci di CEO clonati per convincere manager o contabili ad autorizzare trasferimenti bancari. Questo tipo di frode, nota come “CEO fraud”, esisteva già prima dei deepfake, ma l’intelligenza artificiale ne ha moltiplicato l’efficacia, rendendo le simulazioni praticamente indistinguibili da una comunicazione autentica.
Parallelamente, sul fronte privato, le tecniche di sextortion si sono rafforzate grazie alla possibilità di creare immagini o video falsi a partire da semplici fotografie disponibili online. Vittime ignare ricevono messaggi in cui vengono minacciate di diffondere materiale compromettente, in realtà mai esistito, se non pagano un riscatto. La facilità di produzione rende queste campagne su larga scala estremamente redditizie e difficili da fermare.
Il perimetro della minaccia non si limita al crimine economico. Nel report si citano anche casi di operazioni di disinformazione, in cui avatar sintetici o presentatori generati dall’AI vengono impiegati per diffondere notizie false o manipolate. Si tratta di tentativi ancora rudimentali in alcuni casi, ma che mostrano chiaramente come i deepfake possano diventare strumenti di propaganda globale, capaci di alterare il dibattito pubblico e di seminare sfiducia verso i media tradizionali.
Normative, tecnologie e cultura: come rispondere a una sfida sistemica
La minaccia dei deepfake non può essere neutralizzata da un singolo strumento, ma richiede un approccio multilivello che intrecci normative, innovazioni tecnologiche e cultura della consapevolezza. Sul fronte normativo, l’Europa ha fatto un passo avanti con l’AI Act, che impone obblighi di trasparenza per i contenuti generati artificialmente, chiedendo agli sviluppatori di inserire etichette o watermark che rendano chiara la natura sintetica del materiale.
Parallelamente, iniziative come il C2PA e i Content Credentials mirano a garantire la tracciabilità dei contenuti multimediali dalla loro origine fino alla pubblicazione. È un approccio che punta a certificare la provenienza dei file, così da distinguere ciò che è autentico da ciò che è manipolato. Tuttavia, il report evidenzia che i sistemi di rilevazione tecnica non sono infallibili: i watermark possono essere rimossi, i metadati alterati, e la viralità delle piattaforme social rende difficile fermare la diffusione di un contenuto falso una volta che questo ha iniziato a circolare.
Per le imprese, la prima linea di difesa è rappresentata da procedure interne chiare e rigorose. Prima di autorizzare bonifici o modifiche contrattuali, è fondamentale prevedere una verifica fuori banda, cioè la conferma attraverso un canale alternativo come una telefonata diretta o un incontro fisico. Allo stesso modo, l’adozione di challenge dinamici nelle videocall, come la richiesta di compiere azioni non pre-registrabili, può smascherare un avatar artificiale. Le aziende che hanno iniziato a introdurre questi protocolli riducono drasticamente la possibilità di cadere in inganno.
Infine, nessuna tecnologia sarà sufficiente senza un salto culturale. Serve educare cittadini e professionisti a dubitare delle comunicazioni inattese, a prendersi il tempo necessario per verificare una richiesta urgente e a conoscere i segnali che possono tradire un contenuto artificiale. È la cosiddetta “igiene digitale”, che trasforma la consapevolezza in un vero strumento di difesa.
