Nel mondo frenetico dell'intelligenza artificiale, dove ogni settimana porta annunci di nuove capacità rivoluzionarie, uno dei pionieri del settore invita alla cautela. Andrej Karpathy, cofondatore di OpenAI e figura di riferimento per gli sviluppatori che utilizzano l'AI nella programmazione, ha espresso una valutazione sorprendentemente critica sullo stato attuale degli agenti intelligenti. La sua posizione assume particolare rilevanza proprio nel momento in cui l'industria tech celebra il 2025 come "l'anno degli agenti".
Un decennio per raggiungere la maturità tecnologica
Durante un'apparizione al Dwarkesh Podcast, Karpathy ha affrontato senza mezzi termini le limitazioni degli attuali sistemi di intelligenza artificiale autonomi. Gli agenti AI, quegli assistenti virtuali che dovrebbero essere capaci di completare compiti in autonomia scomponendo problemi complessi e pianificando azioni senza continui input umani, secondo il suo giudizio semplicemente "non funzionano". Le sue previsioni parlano di circa dieci anni necessari per risolvere i problemi fondamentali che affliggono questa tecnologia.
Le carenze sono molteplici e profonde, spiega l'esperto ora impegnato nello sviluppo di una scuola AI-native presso Eureka Labs. Questi sistemi non dispongono di sufficiente intelligenza, mancano di vera multimodalità e non sono in grado di utilizzare efficacemente le risorse informatiche. Ma soprattutto, sono privi di quella capacità di apprendimento continuo che permetterebbe loro di ricordare informazioni fornite dagli utenti.
La critica all'approccio dell'industria
In un post su X scritto per chiarire ulteriormente il suo pensiero, Karpathy ha puntato il dito contro una tendenza preoccupante dell'industria tecnologica. Le aziende stanno sviluppando strumenti progettati per un futuro in cui entità completamente autonome collaborano in parallelo per scrivere tutto il codice, rendendo gli esseri umani superflui. Una visione distopica che il ricercatore rifiuta categoricamente.
La sua visione ideale prevede invece una collaborazione sinergica tra umani e intelligenza artificiale nella programmazione e nell'esecuzione dei compiti. Karpathy desidera sistemi che mostrino la documentazione API utilizzata, che facciano meno assunzioni automatiche e che chiedano chiarimenti quando non sono certi su qualcosa. L'obiettivo non dovrebbe essere ricevere montagne di codice preconfezionato, ma imparare e migliorare come programmatori attraverso l'interazione con l'AI.
Il problema dell'errore cumulativo
Le preoccupazioni di Karpathy trovano eco in altre voci del settore. Quintin Au, responsabile della crescita di ScaleAI, ha illustrato su LinkedIn come gli errori degli agenti si moltiplichino esponenzialmente. Con una probabilità di errore del 20% per ogni azione eseguita – una caratteristica intrinseca dei modelli linguistici di grandi dimensioni – un agente che deve completare cinque azioni consecutive ha solo il 32% di possibilità di portare a termine correttamente l'intero compito.
Questa matematica spietata evidenzia quanto sia ancora lontana la promessa di agenti veramente affidabili. Il rischio concreto è la proliferazione di quello che Karpathy chiama AI "slop", contenuti di bassa qualità generati automaticamente che finirebbero per invadere ogni ambito digitale se gli agenti sostituissero completamente il lavoro umano.
Ottimismo calibrato per il futuro
Nonostante lo scetticismo verso lo stato attuale della tecnologia, il cofondatore di OpenAI ci tiene a precisare di non essere un negazionista dell'intelligenza artificiale. Le sue proiezioni temporali sono "5-10 volte più pessimistiche" rispetto a quelle che si sentono alle feste dell'industria tech di San Francisco o sui social media, ma rimangono comunque ottimistiche se paragonate alla crescente marea di scettici radicali.
La posizione di Karpathy, famoso per parlare velocemente tanto da dover poi chiarire per iscritto le sue dichiarazioni, rappresenta un contrappeso prezioso all'entusiasmo talvolta eccessivo che circonda le innovazioni nell'intelligenza artificiale. Il suo invito implicito è a concentrarsi sullo sviluppo di strumenti che potenzino le capacità umane piuttosto che inseguire l'utopia – o la distopia – di sistemi completamente autonomi ancora tecnologicamente immaturi.