I vertici di alcune delle più influenti aziende di intelligenza artificiale al mondo hanno firmato una lettera pubblica indirizzata al Congresso degli Stati Uniti, chiedendo l'introduzione di norme vincolanti sulla sintesi genetica per prevenire lo sviluppo di armi biologiche con l'ausilio dell'IA. L'iniziativa, promossa dall'Institute for Progress e dalla Foundation for American Innovation, arriva in un momento in cui il costo delle tecnologie di sintesi del DNA è crollato drasticamente.
Il documento mette in luce una vulnerabilità strutturale del sistema attuale: decine di aziende nel mondo vendono sequenze genetiche personalizzate senza sottoporre a screening sistematico né i clienti né gli ordini ricevuti. La convergenza tra modelli linguistici avanzati e biologia sintetica ha abbassato in modo significativo la soglia tecnica necessaria per progettare agenti patogeni pericolosi, trasformando quello che era un rischio teorico in una minaccia concreta con potenziali ripercussioni sanitarie ed economiche su scala globale.
Tra i firmatari figurano Demis Hassabis di Google DeepMind, Sam Altman di OpenAI, Dario Amodei di Anthropic e Mustafa Suleyman di Microsoft AI. La lettera riconosce esplicitamente che, dato il ritmo attuale dello sviluppo dell'IA, "esiste una reale possibilità che le barriere conoscitive che storicamente hanno impedito ai malintenzionati di ottenere armi biologiche si erodano in modo significativo". Si tratta di un'ammissione insolita per un settore spesso restio ad auto-limitarsi.
David Relman, microbiologo ed esperto di biosicurezza alla Stanford University, ha spiegato che gli strumenti di IA possono aggirare i filtri esistenti, suggerendo agli utenti come modificare gli ordini per eludere i sistemi di controllo automatici. Il caso emblematico risale al 2017, quando ricercatori canadesi ricostruirono il virus horsepox estinto con 100.000 dollari di DNA acquistato per corrispondenza — una metodologia applicabile, secondo i critici, anche al vaiolo.
Sul fronte normativo, la precedente amministrazione Biden aveva introdotto linee guida che imponevano agli enti finanziati federalmente di acquistare sequenze genetiche solo da fornitori con sistemi di screening attivi. Un disegno di legge bipartisan, presentato quest'anno al Senato, estende l'obbligo a tutti i fornitori operanti negli Stati Uniti. James Diggans, vicepresidente per la policy e la biosicurezza di Twist Bioscience — tra i firmatari della lettera — sostiene questa direzione da anni: "Se disponi di tecnologia capace di sintetizzare DNA, devi garantire che venga usata responsabilmente."
Tuttavia, i sistemi di screening esistenti presentano lacune documentate. Uno studio pubblicato l'anno scorso da ricercatori Microsoft ha dimostrato che alcuni modelli di progettazione proteica riuscivano a generare sequenze potenzialmente pericolose capaci di superare i filtri dei principali fornitori. Questo dato ridimensiona la narrativa secondo cui le soluzioni tecniche siano già mature e pronte per un'applicazione su larga scala.
Geoff Ralston, ex presidente di Y Combinator e partner del Safe AI Fund, sostiene che i laboratori di IA con modelli orientati alla biologia debbano implementare propri sistemi di controllo degli utenti, indipendentemente dagli obblighi normativi. Relman condivide la posizione, ma avverte che la regolamentazione dello screening è solo una componente della risposta: "Dato che lo screening può fallire in alcuni casi, dobbiamo avere altri punti di controllo."
La questione apre un dibattito più ampio sulla responsabilità delle piattaforme tecnologiche in ambiti ad alto rischio: fino a che punto un'azienda privata che sviluppa modelli di IA generalisti può essere ritenuta corresponsabile dell'uso che terzi ne fanno in settori — come la biologia sintetica — dove le conseguenze di un fallimento dei controlli possono essere irreversibili?