Marcello LegaCon “dark AI” si intende l’uso dell’AI per creare truffe, messaggi falsi, malware e deepfake. Questo rende gli attacchi online più facili da lanciare e più difficili da riconoscere.
L’AI può scrivere email, creare immagini e rispondere a domande in pochi secondi, ma anche i cybercriminali possono sfruttarla per truffarti, ingannarti o violare i tuoi dispositivi in modo più efficace. Questa è la dark AI: un’AI creata per scopi dannosi.
Inoltre, l’uso della dark AI è in aumento. Si prevede che il mercato della dark web intelligence raggiungerà i 2,1 milioni di dollari entro il 2030, con una crescita annua molto rapida del 21,8%. Questo ritmo segnala una domanda sempre maggiore di strumenti capaci di monitorare le attività online nascoste.
In pratica, le truffe possono sembrare più convincenti, i contenuti falsi più realistici e gli attacchi diventano più frequenti. Per tutti questi motivi, è importante sapere cos’è la dark AI e in che modo la usano i criminali. Vediamo come funziona e cosa puoi fare per proteggere subito i tuoi dispositivi, il tuo conto e i tuoi dati personali da occhi indiscreti.
In che modo i cybercriminali usano la dark AI
I cybercriminali usano la dark AI per creare truffe più sofisticate in meno tempo. Gli strumenti disponibili nei marketplace di AI del dark web e i dark LLM illegali rendono possibili attacchi avanzati anche per persone con poche competenze tecniche.
Ecco alcuni dei modi più comuni in cui i cybercriminali usano la dark AI e come possono colpirti:
- Social engineering: la dark AI può analizzare la tua attività online e creare messaggi che sembrano personali, come se li avesse scritti qualcuno che ti conosce. Potresti ricevere SMS o email che sembrano provenire dalla tua banca, dal tuo datore di lavoro o persino da un amico.
- Attacchi di AI adversarial: i cybercriminali possono ingannare i sistemi di sicurezza modificando leggermente file, immagini o dati, in modo che gli strumenti di AI non riescano a rilevare le minacce.
- Clonazione vocale: l’AI può ricostruire e imitare la voce di una persona partendo da brevi clip audio. I cybercriminali la usano per fare finte chiamate d’emergenza che sembrano provenire da un familiare e in cui chiedono denaro o codici di accesso: una tattica comune nelle truffe sentimentali con deepfake.
- Automazione degli attacchi: gli strumenti di AI possono analizzare migliaia di dispositivi contemporaneamente alla ricerca di vulnerabilità, aumentando il numero degli attacchi e lasciando alla vittima meno tempo per reagire.
- Creazione di malware: l’AI aiuta i criminali informatici a creare software dannosi più velocemente. Anche chi ha poca esperienza può creare virus che rubano password o spiano i dispositivi.
- Attacchi su larga scala: l’AI semplifica l’invio simultaneo di milioni di messaggi falsi. Anche se solo poche persone cadono nel tranello, i criminali possono comunque guadagnarci.
- Generazione di contenuti di phishing: l’AI può scrivere email realistiche, pagine di login false e messaggi con una grammatica quasi perfetta. I truffatori usano l’AI per creare siti web falsi che imitano molto bene i marchi autentici.
- Elusione dei controlli biometrici: alcuni criminali usano volti, voci o impronte digitali generati dall’AI per ingannare i controlli di identità usati dalle app bancarie o mobili.
L’AI agentica rende questi attacchi più pericolosi
I nuovi strumenti di AI agentica possono agire da soli, senza il bisogno dell’intervento umano. Invece di limitarsi a scrivere un’email fraudolenta, possono pianificare l’attacco, creare malware, inviare messaggi e adattare automaticamente le proprie tattiche nel tempo.
I ricercatori di Google DeepMind hanno scoperto che alcuni cybercriminali creano trappole per gli agenti AI. Aggiungono istruzioni nascoste nei siti web che manipolano gli strumenti di AI per indurli a divulgare dati o compiere azioni dannose.
Ad esempio, un sito malevolo potrebbe impartire di nascosto istruzioni a un agente AI, che a quel punto potrebbe condividere i tuoi dati sensibili o diffondere informazioni false senza che tu ti renda conto di cosa è successo.
Impatto della dark AI
La dark AI sta già causando danni economici concreti. L’ultimo report IC3 (2025) segnala oltre 893 milioni di dollari di perdite legati a più di 22.000 denunce legate all’AI, un dato che mostra quanto rapidamente stiano aumentando le truffe basate sull’AI.
Vediamo insieme alcuni dati interessanti del report IC3 2025 e l’impatto della dark AI:
- Cybercrimine legato all’AI: le vittime hanno presentato 22.364 denunce collegate all’AI, con perdite superiori a 893 milioni di dollari. I criminali usano dark LLM per generare messaggi, voci e video falsi molto convincenti e più difficili da riconoscere.
- Frodi lavorative: negli Stati Uniti, le truffe di lavoro basate sull’AI hanno causato perdite per quasi 13 milioni di dollari. Gli aggressori possono usare colloqui video deepfake o curriculum generati dall’AI per ottenere accesso ai sistemi aziendali e rubare informazioni personali.
- Truffe sugli investimenti: le perdite legate alle frodi sugli investimenti connesse all’AI hanno superato i 632 milioni di dollari, mentre le perdite totali dovute alle truffe sugli investimenti sono già oltre gli 8 miliardi di dollari. I truffatori usano l’AI per creare false sponsorizzazioni da parte di celebrità, siti web e chat che sembrano autentiche.
- Violazioni dei dati: oltre 1200 denunce riguardavano violazioni dei dati personali basate sull’AI. I criminali possono usare le informazioni rubate per creare messaggi di phishing molto mirati, che sembrano personali e urgenti.
- Business email compromise (BEC): le truffe BEC con l’aiuto dell’AI hanno causato perdite dichiarate per oltre 30 milioni di dollari. Gli strumenti di AI possono imitare lo stile di scrittura di una persona e creare email che sembrano provenire da colleghi o aziende affidabili.
- Truffe sentimentali e basate sulla fiducia: le vittime hanno perso oltre 19 milioni di dollari a causa di truffe romantiche supportate dall’AI. Foto deepfake, chatbot e clonazione vocale aiutano i truffatori a costruire un rapporto di fiducia nel tempo.
- Phishing e spoofing: le truffe di phishing legate all’AI hanno causato perdite per oltre 10 milioni di dollari. I truffatori usano l’AI per creare email e siti falsi che imitano molto bene i marchi più conosciuti.
Queste cifre mostrano come la dark AI aiuta i criminali ad ampliare rapidamente il loro raggio d’azione e raggiungere più persone. Anche le truffe più piccole possono sembrare molto personali, aumentando le probabilità che la vittima clicchi, scarichi file o condivida informazioni sensibili.
Esempi di strumenti reali di dark AI
Alcuni strumenti di dark AI vengono creati da zero, mentre altri sono cloni dannosi di applicazioni già esistenti. Pensa a una versione alterata di strumenti familiari, simile a un ChatGPT cattivo o DarkGPT, ma progettata per aiutare i cybercriminali. Molti vengono addestrati con dati provenienti dal dark web o modificati per rimuovere i limiti di sicurezza, diventando così utili per creare truffe e malware.
FraudGPT
FraudGPT è uno strumento in stile DarkGPT progettato per aiutare i truffatori a creare email di phishing convincenti, siti web falsi e truffe sui social media. È in grado di generare messaggi che suonano naturali e urgenti, rendendoli più difficili da individuare.
I cybercriminali possono produrre rapidamente grandi quantità di contenuti fraudolenti, incluse pagine che imitano banche o siti di shopping: una tattica frequente tra i truffatori che usano l’AI per creare siti web.
WormGPT
WormGPT è uno strumento di AI creato appositamente per supportare il cybercrimine, che consente di creare anche malware e campagne di phishing. Questa dark AI rimuove le protezioni di sicurezza presenti nei sistemi di AI più diffusi, consentendo agli aggressori di generare facilmente codice dannoso o messaggi truffa. Anche una persona con poche competenze tecniche può usare WormGPT per creare attacchi credibili e difficili da riconoscere.
PoisonGPT
PoisonGPT è la dimostrazione che gli attaccanti possono modificare segretamente i modelli di intelligenza artificiale per diffondere informazioni false o fuorvianti. In alcune dimostrazioni, i ricercatori hanno alterato un modello linguistico per generare risposte di fake news prive di segnali di allarme evidenti. Questo tipo di manipolazione potrebbe influenzare ciò che vedi online, soprattutto attraverso chatbot di AI con browser web integrati che recuperano automaticamente le informazioni.
DarkBERT
DarkBERT viene addestrato con dati provenienti dal dark web, il che gli permette di capire meglio come comunicano e operano i cybercriminali. Sebbene sia stato sviluppato dai ricercatori per studiare le minacce, modelli simili potrebbero aiutare i criminali a perfezionare le loro truffe o a individuare i loro prossimi bersagli in modo più efficace. Questo mostra come l’AI possa imparare dalle community online nascoste e migliorare anche le strategie di attacco dei cybercriminali.
Uso improprio degli strumenti di AI più comuni
Non tutta la dark AI nasce da strumenti creati appositamente, come FraudGPT o WormGPT. Molti aggressori usano in modo illecito strumenti comuni come ChatGPT e Google Gemini, combinandoli con altri software o ricorrendo a espedienti particolari per aggirarne i limiti di sicurezza.
Ad esempio, i truffatori possono usare questi strumenti per scrivere email di phishing realistiche, creare false offerte di lavoro o generare copioni per telefonate truffa. Se vengono abbinati a strumenti di clonazione vocale o manipolazione delle immagini, possono dare origine a truffe molto convincenti, come quelle sentimentali con deepfake o i furti di identità.
Questo rende più facile anche per persone con poche competenze tecniche organizzare truffe su larga scala, trasformando idee semplici in attacchi ben congeniati e più difficili da riconoscere.
Come proteggerti dai cybercriminali che usano strumenti di dark AI
La dark AI può rendere le truffe più credibili, ma le buone abitudini continuano a fare la differenza. Questi consigli pratici ti aiutano a restare un passo avanti rispetto alle nuove minacce baste sull’AI, anche senza competenze tecniche particolari:
- Usa strumenti di sicurezza basati sull’AI: gli strumenti di sicurezza moderni utilizzano l’AI per rilevare comportamenti sospetti in tempo reale. Ad esempio, l’antivirus Panda Dome analizza continuamente file, link e app per bloccare le minacce prima che possano danneggiare il tuo dispositivo.
- Verifica l’identità della persona con cui stai parlando: l’AI può clonare voci e scrivere messaggi realistici, facendo sembrare le truffe molto personali. Se qualcuno ti chiede denaro, password o di fare qualcosa urgentemente, fermati un attimo e verifica l’attendibilità del messaggio su un altro canale. Questo ti aiuta a proteggerti da phishing, vishing (phishing vocale) e truffe con deepfake.
- Rendi più sicuri i tuoi account: usa password forti e uniche per tutti gli account e attiva l’autenticazione a più fattori (MFA) quando è disponibile. Anche se i criminali dovessero esporre la tua password in una violazione dei dati, la MFA renderebbe molto più difficile l’accesso ai tuoi account.
- Scegli servizi affidabili: dai la preferenza ad aziende che investono attivamente nella cybersecurity e collaborano con la community della sicurezza per correggere rapidamente le vulnerabilità. Le piattaforme affidabili hanno maggiori probabilità di rilevare minacce come nuovi tipi di malware o campagne di phishing emergenti prima che raggiungano gli utenti.
- Rimuovi le tue informazioni online: limita la quantità di informazioni personali disponibili pubblicamente. Dati come indirizzo email, numero di telefono, luogo di lavoro o data di nascita possono aiutare gli aggressori a creare truffe molto mirate usando strumenti di dark AI.
- Rendi privati i tuoi profili social: modifica le impostazioni della privacy in modo che solo le persone di cui ti fidi possano vedere i tuoi post e i tuoi dati personali. Questo contribuisce a impedire all’AI di accedere ai dati dei tuoi social media, rendendo più difficile per i truffatori creare messaggi o profili falsi convincenti.
- Non usare il Wi-Fi pubblico per le attività sensibili: le reti Wi-Fi pubbliche possono esporre i tuoi dati agli aggressori. Evita di accedere ad app bancarie, email o altri account importanti su reti condivise, a meno che tu non abbia accesso a una connessione sicura.
Difenditi dalla dark AI con Panda Security
Le minacce basate sulla dark AI stanno diventando più intelligenti, ma anche la tua protezione può evolversi.
Panda Dome, ad esempio usa strumenti di AI avanzati e machine learning per rilevare comportamenti sospetti e bloccare i nuovi tipi di malware prima che raggiungano il tuo dispositivo. Monitora continuamente file, app e siti web in tempo reale, aiutandoti a prevenire i furti di identità e a bloccare i download non sicuri.
Scegli il piano più adatto alle tue esigenze e resta sempre un passo avanti rispetto alle minacce basate sull’AI!
Domande frequenti sulla Dark AI
A prima vista la dark AI può sembrare un argomento molto complesso, ma i concetti davvero importanti sono piuttosto accessibili. Di seguito rispondiamo ai dubbi più comuni sulla dark AI.
L’AI è pericolosa?
L’AI in sé non è pericolosa. Anzi, può aiutarti nelle attività di tutti i giorni, come scrivere, tradurre e riconoscere le frodi. I rischi sono legati all’uso che ne fanno alcune persone per creare truffe, deepfake e malware.
Che differenza c’è tra la dark AI e l’uso etico dell’AI?
L’AI etica segue regole di sicurezza pensate per proteggere gli utenti. La dark AI rimuove queste protezioni, così i criminali possono generare più facilmente messaggi di phishing, identità false o codice dannoso.
Gli attacchi con deepfake utilizzano la dark AI?
Sì, molte truffe con deepfake utilizzano strumenti di dark AI per creare video falsi realistici, immagini o clonare la voce di altre persone. I deepfake vengono utilizzati spesso in truffe sentimentali, frodi finanziarie e attacchi di vishing, con cui i criminali fingono di essere una persona che conosci e di cui ti fidi.
Con che velocità si adatta la dark AI?
La dark AI evolve rapidamente perché i criminali sperimentano continuamente nuove tecniche. Man mano che la sicurezza migliora, gli aggressori adattano i loro metodi, ad esempio con nuovi attacchi di phishing o contenuti falsi più convincenti. Per questo sono importanti gli aggiornamenti regolari e gli strumenti di sicurezza basati sull’AI.
