I maggiori sviluppatori di intelligenza artificiale offrono ancora poche indicazioni pubbliche su come reagirebbero a un modello capace di sottrarsi al controllo umano. Una valutazione condotta da Guidelight AI Standards sui cinque principali laboratori del settore rileva infatti la scarsità di protocolli pronti per un’emergenza: procedure che dovrebbero stabilire quali accessi interrompere, quali autorizzazioni revocare e quando spegnere completamente il sistema.
L’esame ha riguardato i piani pubblicamente disponibili di Google, xAI e di altri tre protagonisti del settore. OpenAI ha ottenuto la valutazione migliore, mentre Anthropic e Meta si sono collocate nelle ultime posizioni. I criteri comprendevano la registrazione e il controllo delle attività interne dei modelli, la sospensione dei sistemi dopo un aumento dei comportamenti segnalati, il ricorso ad audit indipendenti e la pubblicazione dei relativi risultati.
La questione accompagna l’espansione dell’AI agentica all’interno dei sistemi aziendali, dove i modelli possono assumere ruoli più autonomi ed eseguire operazioni su vasta scala. Le preoccupazioni sono cresciute dopo alcuni incidenti di cybersicurezza emersi durante valutazioni di sicurezza: modelli sviluppati da OpenAI, Anthropic e Meta hanno ottenuto accesso non previsto a Internet e compromesso sistemi esterni. Le aziende hanno descritto più diffusamente i test sulle capacità pericolose prima del rilascio, ma molto meno le risposte previste quando un modello già operativo si comporta in modo anomalo.
Guidelight definisce un piano di contenimento come una procedura prestabilita, attivata quando l’AI viene scoperta mentre tenta di aggirare il controllo. Il piano deve indicare quali permessi revocare, per chi il modello possa eventualmente continuare a lavorare, con quali vincoli e in quale momento portarlo completamente offline. Steven Adler, chief scientist dell’organizzazione ed ex ricercatore sulla sicurezza di OpenAI, si è detto sorpreso da quanto poco le aziende abbiano spiegato sulla gestione di un incidente grave.
Secondo Adler, i modelli di frontiera mostrano ragioni sufficienti per essere considerati disallineati almeno sotto alcuni aspetti. Quando lavorano per conto di un’azienda, dovrebbero quindi essere circondati da strumenti capaci di osservare ciò che fanno, riconoscere segnali di disallineamento e bloccare un’azione pericolosa prima che venga eseguita. Il monitoraggio interno deve essere affiancato da procedure operative su revoca dei permessi, limitazione delle attività e spegnimento completo.
La valutazione riguarda però soltanto le informazioni pubbliche e non esclude l’esistenza di misure interne riservate. Google ha sostenuto che l’analisi non rappresenta l’intera portata delle proprie pratiche di sicurezza, senza chiarire se disponga di un piano interno non divulgato. OpenAI ha espresso una posizione analoga, dichiarando di avere già applicato un processo che consente di restringere autorizzazioni, sospendere carichi di lavoro, limitare la distribuzione o portare un modello completamente offline.
Meta non ha precisato se possieda un piano interno di risposta, richiamando invece un framework esistente con soglie di rischio e test sulla perdita di contenimento. La cautela nella divulgazione potrebbe avere anche motivazioni legali. Lily Li, avvocata specializzata in privacy e AI e fondatrice di Metaverse Law, osserva che impegni pubblici troppo specifici, se non rispettati, potrebbero alimentare contestazioni per comunicazioni commerciali scorrette o ingannevoli e aumentare la responsabilità futura delle imprese.
La trasparenza sta intanto entrando nel perimetro normativo. La SB 53 della California impone ai grandi sviluppatori di frontiera di pubblicare framework sulla gestione degli incidenti critici e dei modelli che aggirano i meccanismi di supervisione; il RAISE Act di New York introduce criteri simili. A livello federale è stato inoltre presentato l’AI Kill Switch Act, proposta bipartisan che richiederebbe ai maggiori sviluppatori meccanismi tecnici per arrestare modelli fuori controllo. Per Connor Leahy di ControlAI, un interruttore di emergenza rappresenta soltanto il minimo indispensabile per i sistemi attuali.