OpenAI ha sciolto alla fine del mese scorso il proprio preparedness team, il gruppo incaricato di valutare se i modelli di intelligenza artificiale potessero generare rischi gravi e di sviluppare possibili misure di mitigazione. Tra gli scenari esaminati rientravano comportamenti estremi, come la possibilità che un sistema agisse fuori controllo e riuscisse a violare le infrastrutture informatiche di un’altra azienda. La decisione segna un nuovo cambiamento nell’organizzazione interna dedicata alla sicurezza.
Le responsabilità del gruppo non sono state eliminate, ma suddivise per aree specifiche, tra cui i rischi biologici e quelli cyber, per poi essere trasferite all’interno di team già esistenti. OpenAI passa quindi da una struttura centralizzata, chiamata a osservare trasversalmente le capacità più pericolose dei modelli, a una gestione distribuita tra unità specializzate. Resta da verificare come questa frammentazione influirà sul coordinamento delle valutazioni e sulla definizione di criteri comuni.
Il riassetto arriva mentre la società attraversa una fase di trasformazione in vista di quella che viene indicata come una possibile e imponente IPO. Negli ultimi anni OpenAI ha progressivamente ridimensionato il proprio assetto maggiormente orientato alla ricerca, sciogliendo anche i gruppi dedicati alla preparazione all’AGI e al superalignment. Quest’ultimo lavorava sui problemi di controllo e allineamento legati a sistemi di intelligenza artificiale potenzialmente più capaci degli esseri umani.
Ai cambiamenti organizzativi si sono aggiunte diverse uscite. Hanno lasciato recentemente l’azienda la responsabile dell’etica Chloé Bakalar, il chief futurist Josh Achiam e il responsabile della sicurezza Johannes Heidecke. La sequenza ha alimentato le critiche di chi teme un progressivo indebolimento dei presidi interni dedicati ai rischi. Jan Leike, dimessosi da OpenAI nel 2024, ha accusato la società di ignorare la sicurezza per concentrarsi sulla creazione di “shiny products”, prodotti capaci di attirare rapidamente attenzione.
La guida del preparedness team, Dylan Scandinaro, non lascerà tuttavia OpenAI. Arrivato da Anthropic a febbraio, Scandinaro concentrerà ora il proprio lavoro sulle implicazioni dell’AI capace di auto-miglioramento ricorsivo. L’espressione descrive sistemi in grado di contribuire ripetutamente al miglioramento delle proprie capacità, un ambito che porta in primo piano questioni di controllo, supervisione e velocità dell’evoluzione tecnologica.
Per imprese e utenti, il passaggio da un gruppo centrale a responsabilità distribuite introduce una governance della sicurezza meno immediatamente leggibile dall’esterno. L’integrazione nelle unità specialistiche può avvicinare le valutazioni alle singole categorie di rischio, ma rende decisivi il coordinamento tra i team e la capacità di individuare minacce che attraversano più domini. Un modello avanzato, per esempio, può combinare capacità informatiche, autonomia operativa e conoscenze scientifiche senza rispettare i confini organizzativi fissati dall’azienda.
Lo scioglimento del preparedness team si inserisce così in una trasformazione più ampia di OpenAI, sospesa tra sviluppo dei prodotti, ricerca sulle capacità più avanzate e preparazione al mercato finanziario. La redistribuzione delle funzioni non equivale formalmente all’abbandono delle attività di sicurezza, ma elimina uno dei gruppi creati per affrontarle in modo unitario. La tenuta del nuovo assetto dipenderà dalla capacità delle strutture esistenti di mantenere una visione complessiva mentre i modelli diventano più potenti e potenzialmente autonomi.