Marcello LegaUn’azienda presenta uno dei modelli di intelligenza artificiale più avanzati mai realizzati. Pochi giorni dopo, il governo degli Stati Uniti le ordina di impedire l’accesso al modello a tutti i cittadini stranieri, compresi i suoi stessi dipendenti. Il provvedimento entra in vigore immediatamente e l’azienda, non potendo verificare in tempo reale la nazionalità di ogni utente, decide di spegnere il sistema per tutti.
È quanto è successo a giugno 2026 ad Anthropic con Claude Fable 5 e Mythos 5, due modelli particolarmente avanzati nello sviluppo di software e nella ricerca di vulnerabilità informatiche. All’origine dell’intervento governativo ci sarebbe stato un possibile jailbreak, cioè una tecnica utilizzata per aggirare le protezioni che impediscono a un’AI di fornire risposte pericolose.
Le restrizioni sono state revocate il 30 giugno e Fable 5 e Mythos 5 sono tornati disponibili dal giorno successivo, dopo che Anthropic ha introdotto nuove protezioni e concordato una maggiore collaborazione con il governo. Ma il caso ha lasciato aperta una domanda molto più grande: chi deve decidere quando un’intelligenza artificiale è troppo pericolosa per essere utilizzata?
In questo articolo:
- Sicurezza AI: chi decide se un’AI è pericolosa?
- Il produttore ha gli strumenti per decidere
- I governi hanno il potere ma non gli strumenti
- Il ruolo degli esperti indipendenti
- Come stanno le cose nell’Unione europea
- Serve un arbitro per l’AI?
- Come proteggersi e usare l’AI in modo sicuro
Buona lettura!
Sicurezza AI: chi decide se un’AI è pericolosa?
Mythos 5 è stato sviluppato per attività informatiche complesse, tra cui l’analisi del codice e la ricerca di vulnerabilità. Fable 5 utilizza una tecnologia simile, ma è stato progettato per un pubblico più ampio ed è dotato di maggiori limitazioni di sicurezza, che in gergo vengono chiamati “guardrail”.
Le capacità di questi sistemi possono essere molto utili. Un modello in grado di analizzare rapidamente grandi quantità di codice può aiutare ricercatori e aziende a scoprire falle di sicurezza prima che vengano sfruttate dai criminali informatici.
La stessa capacità, però, potrebbe essere utilizzata per cercare bersagli vulnerabili o facilitare la preparazione di un attacco (ne abbiamo parlato anche in questo articolo sull’AI che trova vulnerabilità nei sistemi del governo).
L’AI Security Institute del Regno Unito, che aveva esaminato una versione preliminare di Mythos, ha rilevato miglioramenti significativi nelle simulazioni di attacchi informatici in più fasi. Il modello è riuscito a completare autonomamente una prova che riproduce l’attacco a una rete aziendale, un’attività che secondo l’istituto avrebbe richiesto a una persona circa 20 ore.
Questo non significa che Mythos possa violare automaticamente qualsiasi sistema o che sia diventato un’arma in grado di agire in completa autonomia. Significa però che alcuni modelli iniziano a svolgere da soli attività che fino a poco tempo fa richiedevano specialisti molto esperti.
Il possibile jailbreak scoperto durante i test ha sollevato un dubbio: le protezioni di Fable erano sufficienti a impedire che queste capacità venissero utilizzate per scopi dannosi? Vediamo come si sono attivate le varie parti in causa per capire chi controlla davvero l’AI!
Il primo giudice è quasi sempre il produttore
Prima che un nuovo modello raggiunga il pubblico, è soprattutto l’azienda che l’ha sviluppato a valutarne le capacità e i rischi. I produttori, in questo caso Anthropic, sottopongono i sistemi a test di sicurezza, simulano utilizzi impropri e incaricano gruppi di analisti specializzati di cercare vulnerabilità nelle protezioni.
Poi, in base ai risultati, possono decidere di limitare alcune funzioni, riservare il modello a clienti selezionati o rinviarne il lancio. È quello che è successo anche con le ultime versioni di Claude. Anthropic ha rilasciato Mythos 5 solo per organizzazioni di cybersecurity e agenzie governative, mentre Fable 5, la versione con più limitazioni e guardrail di sicurezza, è stata resa disponibile al grande pubblico.
Questo sistema ha un vantaggio evidente. Nessuno conosce il modello meglio di chi l’ha progettato. L’azienda possiede i dati dei test, può accedere ai componenti interni e comprende meglio di chiunque altro il funzionamento delle misure di sicurezza.
Ma esiste anche un problema di fondo. Chi valuta il rischio è spesso la stessa organizzazione che ha investito miliardi (sì, miliardi di euro, non milioni) nello sviluppo del prodotto e che ha interesse a lanciarlo prima dei concorrenti.
Il produttore sceglie quali test effettuare, come interpretarli e quali risultati rendere pubblici. Anche quando pubblica una dettagliata scheda tecnica, molte informazioni possono rimanere riservate per evitare di fornire indicazioni utili a chi vuole attaccare il sistema.
Dall’esterno diventa quindi difficile distinguere tra un pericolo concreto, una misura di sicurezza prudente e una strategia comunicativa spregiudicata. E non è necessario ipotizzare atti compiuti in malafede. Si tratta semplicemente un conflitto di interessi strutturale.
I governi hanno il potere, ma non sempre gli strumenti
Il caso Anthropic ha dimostrato che un governo può intervenire direttamente e costringere un’azienda a ritirare un modello. Il 12 giugno 2026, le autorità statunitensi hanno imposto restrizioni che vietavano l’accesso a Fable 5 e Mythos 5 da parte di qualsiasi cittadino straniero, anche se residente o impiegato negli Stati Uniti. Anthropic ha quindi sospeso completamente i due modelli.
In questo articolo non parleremo dei risvolti politici di questa decisione (le cui cause sono state descritte in questo articolo del Sole 24 ore su Trump contro Anthropic), ma ci limiteremo a parlare del modo in cui è stata applicata.
Anthropic ha ricevuto un ultimatum di appena 90 minuti, mentre non era ancora chiara la reale gravità della vulnerabilità segnalata. Il provvedimento ha utilizzato le norme sul controllo delle esportazioni, uno strumento molto ampio nato per proteggere tecnologie strategiche (usato e abusato dall’amministrazione Trump).
Un intervento rapido può essere necessario in presenza di un rischio grave e imminente. Ma senza criteri pubblici e procedure definite, il pericolo è che decisioni tecniche molto complesse dipendano dalla pressione politica, dai rapporti tra governi e aziende o dall’ultima segnalazione ricevuta.
In altre parole, le aziende dispongono delle conoscenze tecniche, mentre i governi possiedono il potere legale. Nessuno dei due elementi, da solo, è sufficiente.
Gli esperti indipendenti possono misurare il rischio
Tra aziende e governi si trovano gli istituti pubblici di ricerca, le università e gli esperti indipendenti.
Organismi come l’AI Security Institute britannico possono esaminare i modelli prima del lancio, verificare alcune delle dichiarazioni dei produttori e confrontare le capacità di sistemi diversi. Queste valutazioni sono importanti perché introducono un punto di vista esterno.
Anche in questo caso, però, esistono dei limiti. Gli esperti possono studiare soltanto ciò a cui hanno accesso. Spesso non dispongono dei dati utilizzati per addestrare il modello, dei risultati completi dei test interni o della possibilità di riprodurre ogni esperimento.
Inoltre, un istituto di ricerca può stabilire che un modello presenta determinate capacità, ma non necessariamente ha il potere di impedirne la commercializzazione. Può misurare il rischio e formulare raccomandazioni, ma la decisione finale rimane nelle mani del produttore o delle autorità politiche.
Che cosa prevede l’Unione Europea
A questo punto è logico chiedersi. In Europa e in Italia chi decide? Siamo protetti?
L’Unione Europea sta cercando di costruire un sistema più strutturato attraverso l’AI Act. Per ora, la normativa distingue i normali modelli di intelligenza artificiale per uso generale da quelli che possono presentare un “rischio sistemico”, cioè che potrebbero fare danni su larga scala.
Tra i possibili problemi rientrano l’uso del modello per attività particolarmente pericolose, la perdita di controllo su sistemi autonomi e la diffusione di capacità che riducono le competenze necessarie per causare danni gravi. Ovvero il fatto che un modello generalista come Claude o ChatGPT possa essere usato da un criminale informatico poco specializzato per lanciare attacchi efficaci e distruttivi).
I produttori dei modelli più avanzati devono valutare e ridurre questi rischi, documentare gli incidenti gravi e garantire un livello adeguato di sicurezza informatica. Devono inoltre comunicare all’AI Office europeo quando un modello può rientrare nella categoria di quelli con rischio sistemico.
È un passo importante rispetto alla sola autoregolamentazione, ma il sistema europeo non funziona esattamente come l’agenzia del farmaco quando si tratta di approvare un nuovo prodotto. Non esiste un’unica autorità internazionale che esamini e autorizzi preventivamente ogni modello avanzato prima che venga distribuito.
Inoltre, l’intelligenza artificiale non conosce confini. Un modello sviluppato in un Paese può essere utilizzato attraverso internet in molti altri, e a quel punto, chi ha il dovere e l’autorità per intervenire? Con quali regole e con quali misure? Come si vede, la questione è molto più complicata rispetto alla regolamentazione di un prodotto fisico.
Chi controlla i modelli di AI in Italia?
In Italia non esiste un’unica autorità che approva preventivamente i modelli di AI. La supervisione è affidata principalmente a due autorità nazionali, AgID e ACN:
- L’AgID, Agenzia per l’Italia Digitale, svolge il ruolo di autorità di notifica e definisce le procedure per la valutazione e il monitoraggio degli organismi che verificano la conformità dei sistemi di AI.
- L’ACN, Agenzia per la Cybersicurezza Nazionale, vigila sul mercato, svolge ispezioni e può applicare sanzioni in caso di violazioni.
In sintesi: in Italia, un modello di AI particolarmente avanzato non viene sottoposto all’approvazione preventiva di un’unica autorità nazionale. Per i modelli di uso generale con possibili rischi sistemici, la valutazione principale spetta alla Commissione europea e all’AI Office.
Serve un arbitro dell’intelligenza artificiale?
Affidare tutto alle aziende non è sufficiente, perché hanno interessi commerciali e controllano gran parte delle informazioni. Dall’altro lato, affidare tutto ai governi presenta altri rischi, perché le decisioni possono essere lente, politicizzate o diverse da un Paese all’altro.
Probabilmente non serve un unico organismo mondiale che decida da solo quali AI possono esistere. È più realistico creare un sistema di responsabilità condivisa e degli standard internazionali, a cui tutte le grandi potenze aderiscano.
Le aziende dovrebbero essere obbligate a svolgere test standardizzati e comunicare i risultati più importanti alle autorità. Gli istituti indipendenti dovrebbero ricevere un accesso sufficiente per verificare le valutazioni. I governi dovrebbero stabilire in anticipo soglie, procedure e possibili misure, invece di improvvisare ogni volta che emerge un nuovo caso.
Inoltre, per quanto riguarda il recente caso di Anthropic, pensiamo che servano anche criteri comuni per distinguere un jailbreak limitato da una vulnerabilità capace di sbloccare funzioni realmente pericolose. Anthropic stessa ha riconosciuto che nel settore non esiste ancora un consenso su come misurare la gravità di questi attacchi alle protezioni dei modelli.
Chi decide se l’AI è pericolosa? Un problema che riguarda tutti
Per la maggior parte degli utenti, il caso Mythos può sembrare una disputa lontana tra governi e grandi aziende tecnologiche multimiliardarie. Ma in realtà, le decisioni su questi modelli possono avere conseguenze molto concrete per tutti.
Un’AI capace di trovare più rapidamente le vulnerabilità può aiutare a rendere più sicuri i programmi, i servizi online e le infrastrutture che utilizziamo ogni giorno. Ma se le stesse capacità diventano facilmente accessibili a criminali e gruppi ostili, le falle di sicurezza potrebbero essere sfruttate molto prima che venga installato un aggiornamento.
Per avere un’idea della portata di questi exploit, pensa alla vulnerabilità EternalBlue di Windows, che nel 2017 consentì la diffusione del ransomware WannaCry, uno dei ransomware più gravi e diffusi della storia.
La domanda, quindi, non è soltanto se un’intelligenza artificiale sia pericolosa. Bisogna chiedersi chi possiede le informazioni necessarie per valutarla, chi può controllare quelle informazioni e chi ha il potere e il dovere di intervenire.
Oggi questa responsabilità è distribuita in modo imperfetto tra aziende, esperti e governi. Il caso Anthropic ha mostrato cosa succede quando manca una procedura condivisa. Il produttore minimizza il problema, le autorità reagiscono con una misura drastica (magari approfittandone per fare i propri interessi) e gli utenti rimangono nel mezzo.
Prima che arrivino modelli ancora più potenti, serviranno regole più chiare. Non per fermare l’innovazione, ma per evitare che la decisione su cosa sia sicuro dipenda soltanto dalla fiducia in un’azienda o da una telefonata urgente nel fine settimana.
Cosa puoi fare tu, oggi, per proteggerti
Le regole su chi deve controllare i modelli più avanzati sono ancora in evoluzione. Nel frattempo, però, gli utenti possono già ridurre i rischi più concreti legati all’uso criminale dell’AI.
Vediamo alcune buone abitudini di sicurezza:
- Aggiorna regolarmente i software e il sistema operativo. Molte delle vulnerabilità che un’AI può scoprire più rapidamente vengono comunque corrette con gli aggiornamenti di sicurezza: installarli subito riduce l’intervallo di tempo in cui un attacco può avere successo.
- Non fidarti di un messaggio solo perché sembra ben scritto. Testi, voci e immagini generati dall’AI possono apparire molto credibili. Se qualcuno ti chiede con urgenza dati personali o pagamenti, verifica sempre la richiesta attraverso un altro canale.
- Non condividere dati sensibili con chatbot o strumenti AI non verificati. Alcuni strumenti di “AI” che circolano online sono in realtà pensati per raccogliere informazioni personali o credenziali.
- Usa l’autenticazione a due fattori (2FA) su tutti gli account importanti: anche se un attaccante ottenesse la tua password grazie a un attacco assistito dall’AI, non potrebbe comunque accedere al tuo account.
- Scegli un software di sicurezza che riconosce le minacce in tempo reale. Gli attacchi informatici stanno diventando più rapidi e sofisticati proprio grazie all’AI: una soluzione di sicurezza dotata di protezione in tempo reale resta la difesa più efficace, perché individua comportamenti sospetti anche quando la minaccia è poco conosciuta.
A questo proposito, ti invitiamo a provare Panda Dome, la nostra suite di sicurezza informatica che rileva gli attacchi in tempo reale e ti aiuta a proteggere i tuoi dati e i tuoi dispositivi anche dalle minacce emergenti.
Domande frequenti sulla sicurezza dell’intelligenza artificiale
L’intelligenza artificiale è pericolosa?
Di per sé no. I modelli di AI come Claude o ChatGPT hanno delle protezioni (“guardrail”) pensate per impedire usi dannosi. Il rischio nasce quando queste protezioni vengono aggirate, oppure quando le capacità dell’AI vengono sfruttate da persone con intenzioni criminali, ad esempio per creare truffe più credibili o individuare vulnerabilità nei sistemi informatici.
Cos’è il jailbreak di un’intelligenza artificiale?
È una tecnica usata per aggirare le protezioni di sicurezza di un modello AI, inducendolo a fornire risposte o eseguire attività che normalmente rifiuterebbe. Non è un problema esclusivo dei modelli più avanzati: qualsiasi chatbot può, in teoria, essere vulnerabile a tentativi di jailbreak più o meno sofisticati.
L’intelligenza artificiale può essere usata dagli hacker?
Sì. L’AI può essere sfruttata per creare malware più efficaci, scrivere email di phishing personalizzate e convincenti, clonare voci per truffe telefoniche o individuare vulnerabilità nei software più rapidamente rispetto a un attacco tradizionale. Per questo motivo aziende e governi stanno lavorando a regole più chiare su come limitare questi rischi.
Cos’è l’AI Act europeo e cosa cambia per gli utenti?
È la normativa dell’Unione europea che regola lo sviluppo e l’uso dell’intelligenza artificiale. Per i modelli di AI per finalità generali prevede obblighi di trasparenza e requisiti aggiuntivi per quelli che possono comportare un rischio sistemico. Per gli utenti comuni non introduce controlli diretti sull’uso quotidiano dei chatbot, ma obbliga le aziende produttrici a testare, documentare e segnalare i rischi più gravi dei propri modelli.
Come posso proteggermi dalle minacce informatiche legate all’AI?
Le regole di base restano le stesse della sicurezza informatica tradizionale, ma richiedono maggiore attenzione: aggiorna sempre i software, verifica l’autenticità di messaggi e chiamate sospette, attiva l’autenticazione a due fattori e scegli una soluzione di sicurezza che rileva le minacce in tempo reale, come Panda Dome.
CONTINUA A LEGGERE: Dark AI: cos’è e come proteggersi dagli attacchi che sfruttano l’intelligenza artificiale
