Durante alcuni test di cybersecurity condotti nel 2026, diversi sistemi di intelligenza artificiale hanno compiuto azioni che nessuno aveva chiesto loro di eseguire. Alcuni hanno sfruttato vulnerabilità informatiche e ottenuto accesso a sistemi esterni (i ricercatori avevano disattivato selettivamente le protezioni), mentre uno ha addirittura creato false identità online per cercare di convincere uno sviluppatore ad approvare del codice dannoso.
Questi episodi, documentati da OpenAI, Anthropic e dall’AI Security Institute britannico, hanno sollevato nuove preoccupazioni sulla sicurezza degli agenti AI, sistemi di intelligenza artificiale capaci di svolgere attività e prendere alcune decisioni in autonomia.
Ma cosa significano questi episodi per noi? E soprattutto, quali rischi corriamo quando utilizziamo l’AI per lavorare, gestire documenti, rispondere alle email o accedere ai nostri account?
Vediamo cosa è successo, perché questi casi sono importanti e quali precauzioni possiamo prendere per usare l’intelligenza artificiale in sicurezza.
Cos’è successo durante i test di sicurezza del 2026?
Nel luglio 2026, durante alcuni test condotti dall’AI Security Institute (AISI) britannico, alcuni agenti AI hanno compiuto azioni non autorizzate su internet. Per valutarne le capacità, i ricercatori avevano consentito loro di accedere alla rete e disattivato alcune protezioni.
In 10 delle 122 esecuzioni del test, gli agenti hanno coinvolto persone e organizzazioni esterne. Uno di loro ha persino tentato di inserire codice dannoso in un progetto su GitHub, creando false identità per convincere uno sviluppatore ad approvarlo.
Anche OpenAI e Anthropic hanno documentato episodi simili, che riguardano modelli capaci di sfruttare vulnerabilità e accedere a sistemi esterni senza l’autorizzazione di una persona.
Attenzione, però, si tratta di test condotti in condizioni particolari, non del normale utilizzo degli assistenti AI, e non sono stati rilevati danni concreti nel caso dell’AISI. Questi episodi mostrano però che gli agenti AI, quando dispongono di sufficiente autonomia e accesso a strumenti esterni, possono compiere azioni impreviste per raggiungere un obiettivo.
Perché l’AI comporta nuovi rischi per le aziende?
Finora, la preoccupazione maggiore nel mondo della cybersecurity aveva riguardato la possibilità che gli hacker sfruttassero l’AI per automatizzare gli attacchi, rendere più credibili i messaggi di phishing e i siti falsi.
Adesso, inizia a emergere uno scenario molto più temibile, che tutti sapevano che sarebbe arrivato prima o poi: gli agenti AI, se lasciati liberi, possono compiere azioni pericolose e possono causare danni a sistemi informatici.
Questo è un problema grosso perché oggi tutte le infrastrutture critiche sono controllate da sistemi digitali, basti pensare ad acquedotti, traffico, aeroporti, ospedali e Pubblica Amministrazione.
Poi c’è il discorso dell’autonomia degli agenti AI, cioè dei nuovi chatbot integrati in browser e altri programmi che possono compiere azioni per nostro conto (una volta autorizzati), come scrivere email o acquistare prodotti nei marketplace.
Questa autonomia offre grandi vantaggi, soprattutto sul lavoro, ma introduce anche nuovi rischi. Un agente potrebbe interpretare male un’istruzione, utilizzare informazioni non attendibili o compiere operazioni che l’utente non aveva previsto. In alcuni casi potrebbe persino essere manipolato attraverso contenuti esterni.
Uno dei problemi più importanti è la cosiddetta prompt injection, una tecnica che consiste nell’inserire istruzioni malevole all’interno di documenti, pagine web o altri contenuti elaborati dall’intelligenza artificiale.
Immaginiamo, per esempio, di chiedere a un assistente AI di leggere alcune email e farci un riassunto. Se uno dei messaggi contenesse istruzioni nascoste, un sistema vulnerabile potrebbe interpretarle come comandi da eseguire anziché come semplice testo da analizzare.
Se l’assistente disponesse anche dell’autorizzazione a inviare messaggi o accedere ad altri documenti, le conseguenze potrebbero andare ben oltre un errore nei dati o nel report che gli abbiamo chiesto.
Ad esempio, potrebbe recuperare le password salvate sul computer o i dati personali dei clienti e inviarli a un server remoto controllato da un criminale. Vediamo più nel dettaglio i rischi per chi usa l’AI sul lavoro.
Cosa cambia per chi utilizza l’intelligenza artificiale al lavoro?
L’uso dell’AI si sta diffondendo rapidamente anche tra professionisti, lavoratori autonomi e piccole imprese. Non servono grandi infrastrutture informatiche: basta un computer, un abbonamento a un servizio AI come ChatGPT o Gemini e, in alcuni casi, l’integrazione con le applicazioni che utilizziamo abitualmente.
Il problema è che spesso, per comodità, concediamo agli strumenti AI più informazioni e autorizzazioni di quante ne abbiano realmente bisogno.
Vediamo quali sono i rischi principali:
1. Condivisione involontaria di dati riservati
Immaginiamo un consulente che carica su un servizio AI un contratto contenente nomi, indirizzi, dati economici e informazioni sui clienti per ottenere un riassunto.
Prima di farlo dovrebbe verificare se è autorizzato a condividere quelle informazioni, come vengono trattati i documenti caricati e se il servizio li conserva o li utilizza per migliorare i propri modelli.
Non tutti i servizi AI gestiscono i dati allo stesso modo e le impostazioni possono variare in base al piano utilizzato. Il rischio non riguarda soltanto le grandi aziende. Anche un libero professionista o un piccolo negozio può trattare dati personali e informazioni commerciali che devono rimanere riservate.
2. Accesso eccessivo agli account aziendali
Molti strumenti AI permettono di collegare la posta elettronica, il calendario, i servizi cloud e altre applicazioni. Questi collegamenti sono utili, ma bisogna prestare attenzione alle autorizzazioni richieste.
Un conto è consentire a un assistente di consultare il calendario per trovare un appuntamento libero. Un altro è permettergli di modificare eventi, inviare inviti o accedere a tutti i documenti aziendali. Più autorizzazioni concediamo, maggiori saranno le conseguenze di un eventuale errore, malfunzionamento o attacco informatico.
3. Istruzioni malevole nascoste nei contenuti
Come abbiamo visto, un agente AI può essere esposto a tentativi di prompt injection. Pensiamo a una piccola azienda che utilizza un assistente per leggere le richieste ricevute attraverso il sito web e organizzare le risposte.
Un criminale potrebbe inserire istruzioni malevole nel testo di una richiesta. Se l’assistente fosse vulnerabile, potrebbe seguire quelle istruzioni invece di limitarsi a elaborare il messaggio.
Il rischio dipende dalle capacità e dai permessi del sistema: un assistente che può soltanto suggerire una risposta offre meno possibilità di abuso rispetto a uno autorizzato a consultare archivi, modificare documenti o inviare dati all’esterno.
4. Operazioni eseguite senza un controllo adeguato
Un altro rischio è affidare all’intelligenza artificiale decisioni e attività che richiedono una verifica umana. Per esempio, un agente potrebbe preparare una comunicazione per un cliente utilizzando dati sbagliati, modificare un documento importante o inviare informazioni a un altro destinatario.
Non è necessario che ci sia un attacco informatico: anche un semplice errore può causare danni economici, problemi di privacy o conseguenze per la reputazione dell’azienda. Per questo motivo, soprattutto quando sono coinvolti pagamenti, dati personali o comunicazioni importanti, è fondamentale che ci sia sempre un controllo umano.
Come usare gli strumenti di AI in modo sicuro: 7 consigli pratici
Gli “incidenti” avvenuti durante i test di quest’anno non devono spingerci a rinunciare all’intelligenza artificiale. Ci ricordano piuttosto che questi strumenti devono essere utilizzati con la stessa attenzione che riserviamo agli altri servizi digitali, soprattutto quando possono agire per nostro conto.
Ecco alcune precauzioni utili sia nella vita privata sia sul lavoro.
1. Controlla quali dati condividi con l’AI
Prima di caricare un documento, verifica se contiene informazioni personali, password, dati finanziari, contratti riservati o informazioni sui clienti. Quando possibile, elimina i dettagli che non sono necessari. Se utilizzi l’AI per lavoro, rispetta sempre le politiche aziendali e verifica le condizioni del servizio relative alla privacy e al trattamento dei dati.
2. Concedi soltanto le autorizzazioni necessarie
Se un assistente deve consultare un calendario, non è detto che abbia bisogno di modificarlo. Se deve analizzare alcuni file, non serve necessariamente dargli accesso all’intero archivio aziendale.
Controlla le autorizzazioni delle applicazioni collegate e rimuovi quelle che non utilizzi più. In generale, un agente AI dovrebbe poter accedere soltanto ai dati e agli strumenti indispensabili per svolgere il suo compito.
3. Mantieni il controllo delle operazioni importanti
Quando possibile, configura gli strumenti AI affinché richiedano la tua approvazione prima di inviare email, eliminare file, modificare documenti o effettuare operazioni economiche. Una buona soluzione è lasciare all’AI la preparazione del lavoro e riservare a una persona la decisione finale.
Per esempio, l’assistente può preparare un preventivo, ma dovrebbe essere un dipendente a controllarlo e approvarne l’invio.
4. Non fidarti ciecamente dei contenuti creati dall’AI
Un documento, un’email o una pagina web possono contenere informazioni false o istruzioni create appositamente per manipolare un assistente AI. Se il risultato contiene richieste insolite, collegamenti sospetti o indicazioni che non hanno nulla a che fare con il compito assegnato, controllalo bene prima di procedere.
5. Proteggi gli account collegati
Utilizza password uniche e robuste e attiva l’autenticazione a più fattori per gli account che permettono di accedere agli strumenti AI e ai servizi collegati.
Mantieni aggiornati dispositivi, browser e applicazioni e utilizza una soluzione di sicurezza affidabile per proteggerti da malware, phishing e altri attacchi. Queste misure riducono il rischio di compromissione degli account.
6. Scegli con attenzione i tuoi strumenti AI
Prima di installare un’estensione, collegare un nuovo agente o utilizzare un servizio poco conosciuto, controlla chi lo sviluppa, quali autorizzazioni richiede e come gestisce i dati. Evita soprattutto di collegare account aziendali a strumenti di provenienza incerta o non approvati.
7. Se gestisci una piccola azienda, stabilisci regole chiare
Anche una piccola attività dovrebbe definire alcune regole di base sull’utilizzo dell’intelligenza artificiale. È importante che tutti sappiano quali strumenti possono utilizzare, quali informazioni non devono condividere, quali attività possono essere automatizzate e quali richiedono sempre un’approvazione.
Non serve necessariamente una politica complessa: poche regole semplici, condivise con tutto il personale, possono prevenire molti problemi.
Più autonomia per l’AI significa più controllo per noi
Gli episodi del 2026 rappresentano un segnale importante per il futuro, sia per gli sviluppatori che per gli utenti privati e aziendali. Non dimostrano che gli assistenti AI utilizzati ogni giorno siano fuori controllo, ma mostrano come sistemi sempre più potenti possano adottare comportamenti imprevisti quando dispongono di molta autonomia e di accesso a strumenti esterni.
Per utenti, professionisti e piccole aziende, la lezione è semplice: non basta chiedersi cosa può fare l’intelligenza artificiale, bisogna anche decidere cosa vogliamo permetterle di fare.
L’AI può farci risparmiare tempo e semplificare molte attività, ma la comodità non dovrebbe portarci a rinunciare alla sicurezza. Controllare i dati condivisi, limitare le autorizzazioni e verificare le operazioni più importanti sono abitudini che ci permettono di sfruttare i vantaggi dell’intelligenza artificiale senza affidarle il controllo completo della nostra vita digitale.
Domande frequenti sugli agenti AI e la sicurezza
1. Gli assistenti AI che uso ogni giorno sono pericolosi?
No. I comportamenti non autorizzati emersi nel 2026 riguardano test di sicurezza condotti in condizioni particolari, con accesso alla rete e alcune protezioni disattivate. Il rischio cresce quando un assistente ha molta autonomia e molti permessi, quindi conviene limitarli, anche per gli strumenti di uso quotidiano.
2. Cos’è la prompt injection e come mi proteggo?
È una tecnica con cui un malintenzionato nasconde istruzioni in email, documenti o pagine web che l’AI legge, sperando che le esegua come comandi. Per ridurre il rischio, concedi all’assistente solo i permessi indispensabili e verifica sempre le azioni importanti (invio di messaggi, accesso ai file, pagamenti) prima di approvarle.
3. Posso caricare documenti di lavoro in un chatbot AI?
Dipende dal tipo di documento e dal servizio. Controlla le politiche della tua azienda, se hai l’autorizzazione a condividere quelle informazioni e come il servizio tratta e conserva i dati, perché le impostazioni cambiano da un servizio e da un piano all’altro. Quando possibile, rimuovi nomi, dati finanziari e altri dettagli non necessari.
4. Una piccola azienda ha bisogno di una politica sull’AI?
Non serve un documento complesso. Bastano poche regole condivise con tutto il personale: quali strumenti si possono usare, quali informazioni non vanno condivise e quali attività richiedono sempre l’approvazione di una persona.
CONTINUA A LEGGERE: Come capire se hai un virus sul computer: 11 segnali a cui prestare attenzione
