Sam Altman, amministratore delegato di OpenAI, e Jakub Pachocki, capo scienziato della società, hanno pubblicato lunedì un post sul blog aziendale in cui avvertono che automatizzare completamente ogni processo produttivo rappresenterebbe un rischio sistemico per la società, oltre che una prospettiva indesiderabile dal punto di vista umano. Il documento arriva in un momento in cui il settore dell'intelligenza artificiale affronta crescenti pressioni regolamentari e competitive a livello globale.
Il timing della pubblicazione non è casuale. OpenAI si trova in una fase delicata: l'azienda sta accelerando verso una potenziale quotazione in borsa (IPO), competendo direttamente con Anthropic per acquisire clienti enterprise attraverso le rispettive piattaforme di programmazione assistita — Codex per OpenAI, Claude Code per Anthropic. In questo contesto, prendere una posizione pubblica sulla sicurezza dell'intelligenza artificiale serve anche a consolidare la reputazione istituzionale presso regolatori e grandi committenti aziendali.
Il documento di OpenAI giunge a meno di una settimana da un analogo comunicato di Anthropic, che aveva invitato a rallentare lo sviluppo dell'intelligenza artificiale per consentire alle strutture sociali e alla ricerca sull'allineamento di recuperare terreno. Un ricercatore di Anthropic aveva ammesso apertamente di non riuscire a stare al passo con l'automazione e di non sapere come correggere gli errori prodotti dai sistemi di intelligenza artificiale.
Altman e Pachocki sostengono che, man mano che i sistemi di intelligenza artificiale diventano più capaci, le funzioni umane di "definire direzioni, operare scelte di valore, applicare giudizio e portare responsabilità nel lavoro" acquisiranno maggiore peso, non minore. Questa posizione contrasta con la narrativa prevalente nel settore tecnologico, dove l'intelligenza artificiale agenziale — sistemi in grado di eseguire flussi di lavoro complessi con minima supervisione umana — è presentata quasi esclusivamente come leva di efficienza e riduzione dei costi.
Il dibattito coinvolge anche altri vertici aziendali che operano fuori dal perimetro dell'intelligenza artificiale pura. Luis von Ahn, CEO di Duolingo, ha dichiarato in un podcast di maggio che i suoi migliori designer producono risultati nettamente superiori rispetto ai sistemi automatizzati, aggiungendo: "Non ridurremo la qualità solo per usare l'AI." Marc Benioff, CEO di Salesforce, ha confermato che la società non intende frenare le assunzioni nel reparto vendite, suggerendo che alcune funzioni commerciali rimangono difficilmente sostituibili.
Sul piano dell'analisi economica, la posizione di OpenAI solleva una questione strutturale: quanto è sostenibile un modello di business fondato sull'automazione massiva se le stesse aziende che la promuovono riconoscono i rischi di un'automazione totale? La tensione tra la spinta commerciale verso l'intelligenza artificiale agenziale e le dichiarazioni pubbliche sulla necessità di controllo umano rivela una contraddizione interna che investitori e regolatori faranno bene a monitorare.
In Europa, il contesto normativo aggiunge ulteriore pressione: l'AI Act dell'Unione Europea, entrato in vigore nel 2024, impone requisiti stringenti per i sistemi ad alto rischio, mentre le autorità garanti della concorrenza di diversi paesi stanno esaminando le dinamiche di mercato nel settore. La corsa alle IPO di OpenAI e Anthropic si svolge quindi in un ambiente in cui la reputazione sulla sicurezza vale quanto, se non più, dei dati di crescita del fatturato. Resta da capire se queste prese di posizione pubbliche rappresentino una genuina riflessione strategica o una forma sofisticata di gestione del rischio reputazionale in vista della quotazione.