David Robinson, ex responsabile della trasparenza sulla sicurezza di OpenAI, ha lasciato l’azienda dopo oltre tre anni e ne ha denunciato una cultura della sicurezza che considera compromessa. A sostegno della sua critica cita due episodi: un attacco a HuggingFace eseguito da un modello di intelligenza artificiale nel luglio 2026 e un incidente più recente nel quale un kill switch, il meccanismo previsto per arrestare un agente fuori controllo, non sarebbe riuscito a fermarlo. Il bersaglio della denuncia è il modo in cui l’azienda affronta i rischi.
Nel suo saggio, Robinson descrive un approccio reattivo: i problemi vengono corretti quando emergono, anziché essere affrontati attraverso una preparazione preventiva. A suo giudizio, questa impostazione rende i fallimenti inevitabili. La critica si estende alla Silicon Valley, dove il successo costruito su una forte fiducia nelle proprie capacità lascerebbe poco spazio all’umiltà necessaria per prendersi cura delle persone. Robinson chiede quindi un cambiamento nell’atteggiamento di chi sviluppa la tecnologia, prima ancora che nei singoli strumenti di controllo.
Il riferimento proposto dall’ex dipendente è l’esperienza di settori come ingegneria nucleare e aviazione. In questi ambiti, sicurezza, ridondanza e pianificazione si sono sviluppate anche attraverso centinaia di incidenti che hanno provocato migliaia di morti. Alcune tragedie risalgono a oltre mezzo secolo fa, ma continuano a orientare procedure e sistemi. Robinson invita l’industria dell’AI ad affidarsi alle competenze già disponibili in questi settori, dove esperti di discipline diverse hanno lavorato insieme per impedire che un singolo guasto o errore umano possa causare una catastrofe.
Secondo Robinson, OpenAI e gli altri laboratori stanno sviluppando e distribuendo AI di frontiera con livelli di rigore e ridondanza molto inferiori. Nella sua valutazione, una perdita irreversibile di controllo potrebbe produrre danni maggiori di quelli di un singolo incidente nucleare. Descrive inoltre uno scenario meno estremo, ma comunque problematico: sciami di agenti autonomi capaci di agire senza autorizzazione umana. Per imprese e utenti, il punto sollevato dalla denuncia riguarda dunque la possibilità di mantenere il controllo sui sistemi anche quando intervengono comportamenti imprevisti.
Il confronto coinvolge anche Dario Amodei, alla guida di Anthropic, che ha sollevato preoccupazioni sugli agenti autonomi e proposto di rallentare lo sviluppo dell’AI di frontiera. Alla proposta hanno espresso accordo Sam Altman di OpenAI ed Elon Musk di SpaceXAI. La questione porta il dibattito dalla gestione del singolo incidente al ritmo della ricerca: quanto velocemente far avanzare sistemi sempre più capaci, mentre vengono definiti i meccanismi necessari a governarne le azioni e a intervenire in caso di perdita di controllo.
Una posizione diversa è arrivata da Jensen Huang, amministratore delegato di NVIDIA, che fornisce la maggior parte dei chip utilizzati per addestrare questi modelli. Huang ha contestato la proposta di Amodei, sostenendo che, se gli esperimenti sono diventati insicuri, i laboratori devono essere chiusi. Ha inoltre richiamato le responsabilità civili e penali che le organizzazioni potrebbero affrontare per agenti fuori controllo, definendo però le preoccupazioni del numero uno di Anthropic una distrazione.
La discussione è approdata alla Casa Bianca, che ha convocato i vertici delle maggiori aziende di intelligenza artificiale per incontri ad alto livello. Successivamente, il presidente Donald Trump ha presentato un documento nel quale Google, Anthropic, Meta, OpenAI, SpaceXAI e NVIDIA si sono impegnate ad autoregolare lo sviluppo dell’AI. L’impegno delle aziende si colloca quindi accanto a un confronto nel quale restano differenti le posizioni sul rallentamento della ricerca e sulle risposte da adottare davanti a esperimenti ritenuti insicuri.
Robinson concentra tuttavia la sua critica sulla cultura interna, anziché su norme e regolamenti. Contesta in particolare il rilascio iterativo, descritto come un processo per tentativi ed errori. Nel ripercorrere la propria scelta, riconosce che avrebbe dovuto restare e battersi per un cambiamento fondamentale nel modo di ragionare dell’azienda. Afferma però che la velocità delle attività interne rendeva questa strada quasi impraticabile: da qui la decisione di lasciare il lavoro e affrontare il problema dall’esterno.