Tre protagonisti della corsa verso sistemi di intelligenza artificiale sempre più avanzati stanno convergendo su una diagnosi comune: servono regole e controlli esterni prima che le capacità dei modelli superino gli strumenti disponibili per governarle. Demis Hassabis, Sam Altman e Dario Amodei, rispettivamente alla guida di Google DeepMind, OpenAI e Anthropic, hanno espresso nell’arco di cinque settimane posizioni simili sulla necessità di intervenire rapidamente.
Il punto di incontro riguarda soprattutto i sistemi di frontiera e il loro avvicinamento all’intelligenza artificiale generale, o AGI. Martedì Hassabis ha pubblicato una proposta nella quale sostiene che sia necessaria un’azione urgente per affrontare i rischi. Il CEO di Google DeepMind descrive uno scenario nel quale l’aumento delle capacità non produce soltanto nuove applicazioni, ma amplia anche la superficie delle minacce e rende più difficile affidarsi alle sole valutazioni interne delle aziende.
Tra i problemi già visibili Hassabis indica le sfide poste dai modelli di frontiera alla cybersecurity. Con il progresso delle capacità potrebbero inoltre emergere rischi nucleari e biologici. Più avanti, avverte, saranno necessarie salvaguardie robuste per mantenere il controllo di sistemi sempre più autonomi, capaci di agire come agenti e potenzialmente di migliorarsi in modo ricorsivo. A questi pericoli si aggiungono questioni ancora sconosciute, destinate a diventare più chiare soltanto con l’evoluzione della tecnologia.
La proposta è quella di istituire negli Stati Uniti un organismo per la definizione degli standard ispirato alla FINRA, l’autorità di autoregolamentazione del settore finanziario statunitense. La struttura immaginata da Hassabis avrebbe un consiglio composto anche da esperti tecnici indipendenti di primo piano e rappresentanti del mondo open source. L’obiettivo sarebbe trasformare le verifiche tecniche in standard utilizzabili dai decisori pubblici, creando un passaggio stabile tra laboratori, valutatori esterni e politica.
Le proposte hanno ricevuto apprezzamenti da numerose figure dell’industria, tra cui Altman, il CEO di Microsoft Satya Nadella ed Elon Musk. Jack Clark, cofondatore di Anthropic, ha sintetizzato la convergenza osservando che gli operatori alla frontiera dell’AI concordano ormai sulla necessità di affidare a soggetti terzi i test dei sistemi. I risultati dovrebbero servire a sviluppare standard capaci di alimentare direttamente le politiche pubbliche.
Il ricorso al testing indipendente segnala un allontanamento dal precedente modello basato soprattutto sull’autovalutazione e sulle comunicazioni delle aziende. CEO e investitori sostengono che la tecnologia debba essere esaminata prima di raggiungere il pubblico. Per le imprese che sviluppano o adottano questi sistemi, un quadro condiviso potrebbe tradursi in procedure di verifica più strutturate, mentre per gli utenti introdurrebbe un livello di controllo separato dagli interessi commerciali dei produttori.
La convergenza non elimina però le divergenze sulla governance. I tre leader guardano a modelli regolatori già esistenti e vogliono che gli Stati Uniti contribuiscano a definire le regole di un organismo con portata internazionale. Resta aperta la questione decisiva: se il governo statunitense debba essere l’unico arbitro finale. L’accordo riguarda quindi l’urgenza dei controlli, il ruolo delle verifiche esterne e la costruzione di standard comuni; la distribuzione del potere regolatorio rimane invece il terreno sul quale il confronto è ancora lontano da una conclusione.