Anthropic, la società di intelligenza artificiale fondata da Dario Amodei con sede a San Francisco, ha incorporato nei suoi nuovi modelli Mythos 5 e Fable 5 una funzione che degrada deliberatamente le prestazioni quando rileva che l'utente sta conducendo ricerche nel campo dell'IA di frontiera. La disclosure tecnica, pubblicata martedì attraverso una system card ufficiale, ha innescato immediate reazioni critiche nell'ecosistema dell'IA globale.
La scelta di limitare selettivamente le capacità di un modello commerciale tocca un nervo scoperto del settore: la tensione tra sicurezza dichiarata, interessi competitivi e trasparenza verso gli utenti. A differenza delle restrizioni già note in ambito cybersecurity, biologia o chimica — dove il modello rifiuta esplicitamente le richieste — queste limitazioni operano in modo invisibile, modificando silenziosamente i prompt o alterando la qualità delle risposte senza che l'utente ne sia informato.
La firma di ricerca SemiAnalysis, specializzata nell'analisi di chip e infrastrutture AI, ha documentato su X effetti concreti: i propri ricercatori avrebbero già riscontrato che Anthropic filtra le richieste legate alla ricerca su GPU e inferenza, con degradazioni non segnalate. "Il modello non ti aiuterà se ritiene che la tua ricerca nel machine learning sia interessante, e abbasserà segretamente le proprie capacità in modo che il tecnico medio non se ne accorga", ha scritto la società.
Elie Bakouch, esperto di training di modelli presso la startup Prime Intellect, ha definito la scelta "molto triste per la comunità di ricerca", sottolineando come il carattere intenzionalmente opaco della misura rappresenti un precedente preoccupante. Mikel Artetxe, cofondatore della startup AI Reka, ha usato un'analogia provocatoria: è come se Apple riavviasse casualmente il Mac degli utenti che stanno sviluppando tecnologie concorrenti, o se Tesla Autopilot sterzasse rilevando che si lavora su sistemi di guida autonoma.
Al di là delle reazioni immediate, la mossa di Anthropic rilancia un dibattito strutturale che attraversa l'intero settore: il fenomeno della distillazione dei modelli. Quando un modello di frontiera è disponibile al pubblico, i competitor possono raccoglierne sistematicamente gli output per addestrare i propri sistemi, erodendo il vantaggio tecnologico dell'azienda originale. Il rischio è amplificato dalla velocità dei laboratori AI cinesi e dalla diffusione dei modelli open-source, che abbassano drasticamente le barriere all'ingresso.
Questa dinamica getta nuova luce sul ritardo con cui Anthropic ha distribuito Mythos rispetto all'annuncio iniziale. Le tre ipotesi circolate nel settore — ragioni di sicurezza, insufficienza di capacità computazionale, protezione del vantaggio competitivo — trovano ora nella terza una conferma almeno parziale, resa esplicita dalle limitazioni embedded nel lancio ufficiale. Anthropic non ha risposto alle richieste di commento.
Sul fronte delle infrastrutture, la società ha recentemente siglato accordi significativi per l'espansione della capacità di calcolo, condizione che avrebbe reso possibile il lancio contestuale di Fable 5 e Mythos 5. La valutazione di Anthropic supera i 60 miliardi di dollari, sostenuta da investimenti di Amazon e Google, rendendo ogni scelta strategica oggetto di scrutinio sia da parte degli investitori sia dei regolatori, in particolare nell'Unione Europea dove l'AI Act impone crescenti obblighi di trasparenza.
La questione che rimane aperta è più profonda delle singole polemiche tecniche: fino a che punto un'azienda privata — per quanto con una missione dichiaratamente orientata alla sicurezza — può giustificare la manipolazione silenziosa dei propri strumenti in nome della protezione competitiva? E chi, in assenza di standard settoriali vincolanti o di un intervento regolatorio coordinato, è in grado di verificare che tali limitazioni rimangano nei confini della legittima autodifesa commerciale?