Anthropic, la società di intelligenza artificiale fondata da Dario Amodei con sede a San Francisco, ha pubblicato un documento in cui chiede ai principali sviluppatori mondiali di AI di dotarsi di un meccanismo coordinato per rallentare o sospendere temporaneamente i modelli più avanzati quando i rischi superano la capacità di governi e mercati di gestirli. La proposta, diffusa tramite il blog aziendale, si inserisce in un dibattito globale sulla governance dell'AI che coinvolge ora anche il Vaticano.
Il vero oggetto della proposta non è una pausa generica allo sviluppo tecnologico, ma un freno selettivo applicabile ai cosiddetti modelli di frontiera: sistemi ad altissima potenza computazionale capaci di influenzare ricerca scientifica, cybersecurity, difesa e automazione del lavoro. La soglia critica identificata da Anthropic riguarda l'automiglioramento dei modelli AI, cioè la capacità di questi sistemi di partecipare attivamente alla progettazione e allo sviluppo delle versioni successive.
Il cofondatore Jack Clark ha dichiarato alla BBC che Claude, il modello sviluppato da Anthropic, viene già costruito con circa l'80% del codice scritto dal sistema stesso. Clark ha aggiunto che raggiungere il 100% entro due anni è uno scenario concreto, con implicazioni difficili da quantificare. La distinzione che emerge è quella tra AI come strumento di supporto e AI come attore centrale nel processo produttivo di nuova intelligenza artificiale: un salto qualitativo che, secondo Anthropic, giustifica l'adozione di meccanismi di controllo condivisi.
La logica economica sottostante è quella di un classico dilemma del prigioniero applicato alla competizione tecnologica: chi rallenta rischia di essere superato da chi continua. In assenza di un accordo vincolante tra i principali attori globali, nessuna azienda ha un incentivo razionale a fermarsi, indipendentemente dalla propria valutazione dei rischi. La proposta di Anthropic prova a spezzare questa dinamica, ma la fattibilità di un coordinamento internazionale resta l'ostacolo principale.
Sul fronte geopolitico, la resistenza più forte arriverà probabilmente dagli Stati Uniti, dove una parte rilevante del mondo politico e tecnologico considera qualsiasi rallentamento un vantaggio strategico regalato alla Cina. Il presidente Donald Trump ha dichiarato di aver discusso con Pechino una possibile cooperazione sull'AI, ma la distanza tra un dialogo politico e regole operative condivise su una tecnologia considerata strategica è ancora ampia.
La voce di Anthropic si è intrecciata con quella di Papa Leone XIV, che nella sua prima enciclica Magnifica Humanitas ha indicato la necessità di "quadri giuridici adeguati, vigilanza indipendente, educazione degli utenti e una politica che non abdichi al proprio compito". Il Pontefice ha usato la formula "disarmare l'intelligenza artificiale", riferita in particolare agli usi militari e ai sistemi che incidono su diritti e dignità delle persone.
Rimane aperta una questione che la proposta di Anthropic non risolve: quanto pesa la sicurezza e quanto pesa la sostenibilità economica della corsa agli investimenti? Le grandi aziende del settore continuano ad attirare capitali con valuation elevate, ma il modello industriale resta strutturalmente costoso: infrastrutture enormi, capacità di calcolo crescente, data center ad alto consumo energetico. I ricavi crescono, ma la loro capacità di sostenere nel lungo periodo il ritmo degli investimenti non è ancora dimostrata.
Un meccanismo coordinato di pausa potrebbe anche ridurre la pressione competitiva tra i grandi player e consolidare le posizioni di chi è già in vantaggio, come Anthropic stessa. Questo non rende la proposta necessariamente sbagliata, ma invita a distinguere tra la narrazione sulla sicurezza e gli interessi di mercato che, in questo caso, potrebbero coincidere più di quanto appaia.