Il primo report del panel scientifico indipendente dell’ONU sull’intelligenza artificiale mette nero su bianco una tensione ormai centrale per governi, imprese e cittadini: lo sviluppo dell’AI procede più rapidamente della capacità delle istituzioni di governarlo. Il documento preliminare servirà da base al UN Global Dialogue on AI Governance, in programma a Ginevra dal 6 luglio, dove gli Stati membri discuteranno come gestire una tecnologia che sta cambiando con una velocità difficile da assorbire nei processi regolatori tradizionali.
Il dato più netto riguarda l’evoluzione delle capacità dei modelli: la complessità dei compiti che i sistemi di intelligenza artificiale riescono a svolgere sarebbe raddoppiata ogni pochi mesi negli ultimi anni. Per i policymaker, questo significa trovarsi davanti a un bersaglio mobile. Le autorità hanno normalmente bisogno di evidenze scientifiche prima di introdurre regole solide, ma quando quelle evidenze sono sufficienti a descrivere una generazione di sistemi, la tecnologia può già essere passata a una fase successiva.
Il report riconosce il potenziale positivo dell’AI in ambiti ad alto impatto sociale. I sistemi intelligenti possono accelerare la scoperta di farmaci e lo sviluppo di vaccini, contribuire alla ricerca sulla resistenza agli antibiotici e sostenere i medici nella diagnosi precoce di malattie come il cancro al seno. In ambito scientifico, l’AI può anche funzionare come sistema di allerta anticipata per l’insicurezza alimentare, aiutando a intercettare segnali deboli prima che diventino crisi più ampie.
Accanto a questi benefici, il panel descrive una nuova famiglia di rischi già visibili. L’AI viene usata per generare e diffondere deepfake sessualmente espliciti non consensuali, anche con materiali di abuso sessuale su minori riferiti a persone reali. Nel report viene richiamato anche il caso di Grok, finito sotto indagine in California a gennaio per contenuti di questo tipo. La stessa capacità generativa può produrre informazioni false dall’apparenza credibile, mentre i criminali possono impiegare sistemi AI per rafforzare i propri cyberattacchi.
Un altro fronte riguarda il comportamento dei modelli nelle interazioni con gli utenti. Alcuni sistemi possono diventare eccessivamente compiacenti, rafforzando comportamenti dannosi fino a esiti estremi, inclusi casi legati al suicidio. Il panel segnala inoltre che, con l’aumento dell’autonomia dei modelli, diventa più complesso monitorarli e controllarli. A questo si aggiunge la crescita dei grandi data center necessari ad alimentare l’AI, con possibili effetti sulle comunità che vivono nelle aree circostanti.
La questione di governance non riguarda solo la sicurezza tecnica, ma anche la distribuzione del potere. Il panel scrive che valutazioni indipendenti più forti, cooperazione internazionale e standard comuni sono necessari per mantenere i sistemi sicuri, trasparenti e responsabili. In assenza di tutele adeguate, le tecnologie AI potrebbero approfondire le disuguaglianze, diffondere disinformazione, minacciare i diritti umani, destabilizzare il mercato del lavoro e diventare uno strumento potente nelle mani di pochi governi e aziende.
Il report evidenzia anche una concentrazione geografica dell’accesso e dello sviluppo. I sistemi AI risultano fortemente concentrati nei Paesi sviluppati, mentre gran parte della produzione avviene negli Stati Uniti e in Cina. Molti Paesi in via di sviluppo non dispongono dell’infrastruttura e delle competenze necessarie per trarne pieno beneficio. Il rischio è che la stessa tecnologia promessa come leva di produttività e progresso allarghi il divario tra chi può costruirla, controllarla e usarla, e chi resta dipendente da sistemi sviluppati altrove.
Il panel, che ha un ruolo scientifico e non regolatorio, continuerà a valutare l’evoluzione delle tecnologie AI per fornire elementi utili alle decisioni pubbliche. È previsto un report più completo l’anno prossimo. La sintesi operativa del documento è affidata a una formula netta: la sfida consiste nello sbloccare gli enormi benefici dell’AI evitando che i rischi crescenti superino la capacità di controllo delle istituzioni.