Le imprese stanno già facendo i conti con gli incidenti di sicurezza legati agli agenti AI. Un rapporto di ServiceNow, dedicato all’esposizione all’intelligenza artificiale agentica, indica che nove organizzazioni su dieci a livello globale hanno registrato almeno un incidente di questo tipo nell’ultimo anno. Il dato porta l’attenzione sulla protezione degli agenti all’interno delle aziende e sulla capacità dei programmi di sicurezza di governarne l’impiego.
Tra le organizzazioni che hanno subito un incidente, il 36% è riuscito a contenerlo in meno di 24 ore. La percentuale riguarda quindi le imprese già colpite e descrive il tempo necessario al contenimento. Accanto alla diffusione degli incidenti, il rapporto mette così a fuoco la risposta operativa: la gestione dell’esposizione agli agenti comprende anche la capacità di intervenire quando un problema si è già manifestato.
Il confronto con la percezione dei responsabili della sicurezza evidenzia un altro scarto. Molti ritengono di avere già consolidato il proprio assetto di protezione per l’AI agentica, ma soltanto il 13% delle organizzazioni dispone di programmi che reggono alla valutazione nei cinque ambiti chiave considerati dal rapporto. L’autovalutazione restituisce dunque un livello di preparazione più favorevole rispetto a quello rilevato attraverso l’esame dei programmi.
La verifica prende in considerazione superficie di attacco, attribuzione delle responsabilità, sicurezza integrata nella progettazione, visibilità e preparazione agli audit. La superficie di attacco riguarda i punti esposti a possibili minacce; la visibilità permette di osservare ciò che accade, mentre la preparazione agli audit riguarda la disponibilità a sottoporre il sistema a verifiche e controlli. Sono dimensioni che spostano l’attenzione dalla sola presenza di strumenti di protezione al modo in cui viene organizzata la sicurezza. Nel perimetro della valutazione entrano sia gli aspetti tecnici sia la responsabilità della gestione, insieme alla possibilità di rendere le attività verificabili in sede di controllo.
A governare la maggior parte dell’AI agentica sono ancora framework preesistenti e sistemi basati sull’intervento umano. Inoltre, meno della metà delle organizzazioni utilizza framework di governance che coprono gli elementi chiave dell’implementazione degli agenti. Il rapporto descrive quindi una gestione affidata in larga parte a strutture precedenti, mentre la copertura degli aspetti essenziali delle nuove implementazioni rimane circoscritta a una quota minoritaria delle imprese.
Il punto in cui questa impostazione diventa più concreto è lo sviluppo. A livello globale, soltanto il 44% dei team di sicurezza integra la protezione nella progettazione di un agente prima che venga costruito. Per la maggioranza, permessi e guardrail vengono invece introdotti con interventi ad hoc, a posteriori. La sicurezza entra così nel processo quando l’agente è già stato realizzato, attraverso aggiustamenti successivi. È in questa fase che si concentra una delle distanze operative descritte dal rapporto: inserire le protezioni nella progettazione iniziale oppure aggiungerle dopo la costruzione.