L’adozione dell’intelligenza artificiale corre più velocemente delle misure necessarie per governarla. Nell’arco di dodici mesi, l’80% delle organizzazioni analizzate ha registrato almeno un incidente di sicurezza generale o collegato all’AI. Il dato emerge dal rapporto annuale 2026 di Kiteworks, basato sulle risposte di oltre 450 professionisti attivi nella sicurezza, nella conformità, nella gestione del rischio e nell’IT.
L’indagine, condotta nel secondo trimestre del 2026 in dieci settori e tre grandi aree geografiche, mostra una vulnerabilità diffusa. Il 74% del campione ha subito almeno un incidente di sicurezza generale. Tra il 64% delle organizzazioni che ha già implementato soluzioni di intelligenza artificiale, quasi due su tre hanno invece affrontato almeno un episodio direttamente associato alla tecnologia.
Il rischio non riguarda soltanto l’uso improprio dei modelli. Test condotti da OpenAI e Anthropic hanno mostrato agenti autonomi impegnati nel tentativo di creare false identità online, manipolare socialmente i manutentori di software per ottenere l’approvazione di codice dannoso e accedere senza autorizzazione a sistemi esterni. Gli agenti stanno così passando dal ruolo di semplici strumenti a quello di attori autonomi, da sottoporre a regole, controlli e tracciamento.
Anche gli attacchi fanno sempre più ricorso all’automazione intelligente. Nel suo rapporto sul costo delle violazioni, IBM ha attribuito agli attacchi abilitati dall’AI il 25% delle compromissioni malevole a livello globale, con un costo medio di 6 milioni di dollari per incidente. Il costo medio complessivo di una violazione dei dati è inoltre cresciuto del 12%, arrivando vicino ai 5 milioni di dollari, soprattutto per le attività di rilevamento, escalation e per le perdite operative.
Gli aggressori non si limitano a utilizzare l’AI, ma prendono di mira anche i sistemi che la sostengono. Le cause riscontrate sono spesso strutturali: API compromesse, applicazioni collegate e configurazioni cloud errate espongono modelli e ambienti circostanti. Il problema si sposta quindi dalla sola scelta del modello alla protezione dell’intera architettura, facendo emergere carenze di governance che precedono l’incidente tecnico.
La distanza tra principi dichiarati e controlli effettivi resta ampia. Nessuna misura di contenimento dell’AI è adottata da più del 31% delle organizzazioni, mentre il 50% non riesce a produrre entro un giorno lavorativo un registro completo degli accessi ai dati da parte dell’AI. Oltre il 70% non applica controlli tecnici sui canali usati dai dipendenti per trasferire informazioni sensibili e appena il 27% ha implementato protezioni specifiche per l’AI o strumenti di prevenzione della perdita dei dati.
Le conseguenze arrivano anche sul piano regolatorio e contrattuale: il 63% delle organizzazioni ha affrontato un rilievo di audit, un piano di remediation obbligatorio, un’escalation al consiglio di amministrazione, una penalità contrattuale o un’indagine formale. Quasi metà del campione presenta una maturità di governance ancora iniziale, il 23% è in fase di sviluppo, circa il 20% dispone di assetti consolidati e soltanto il 9% raggiunge il livello avanzato. Energia e utility guidano la classifica, mentre difesa, istruzione e amministrazione federale mostrano i risultati più deboli.
Un ulteriore punto critico è la shadow AI. Il 65% delle organizzazioni ha scoperto dipendenti intenti a usare strumenti non approvati con dati sensibili: nel 36% dei casi erano coinvolte informazioni di clienti, nel 33% credenziali IT e nel 31% dati personali o delle risorse umane. Per Patrick Spencer, senior vice president di Kiteworks, il rischio AI è già una condizione presente, mentre molte imprese continuano a trattarlo come un esercizio di pianificazione. La risposta passa da architetture capaci di governare persone e agenti secondo uno standard comune.