Gli agenti AI promettono di trasformare l’intelligenza artificiale da sistema che risponde a strumento che agisce, pianifica e usa altri software per completare compiti complessi. Ma questa evoluzione ha un costo energetico molto più alto di quello associato alla generative AI tradizionale: una ricerca del KAIST ha stimato che, in alcuni scenari, una singola richiesta può consumare fino a 136,5 volte più energia rispetto al classico modello domanda-risposta.
Il dato arriva da un’analisi guidata dal professor Yu Min-soo, della School of Electrical Engineering del KAIST, presentata come il primo studio sistematico sul consumo di risorse di calcolo ed energia degli agenti AI in ambienti di servizio reali. L’oggetto della misurazione non è quindi il modello linguistico isolato, ma l’intero processo con cui un agente esegue un compito: ragionamento, chiamate al modello, utilizzo di strumenti esterni, attese e passaggi tra diverse operazioni.
La differenza rispetto ai grandi modelli linguistici, come ChatGPT, è sostanziale. Un LLM tradizionale genera una risposta a partire da un prompt; un agente AI, invece, può scomporre il problema, scegliere azioni successive e ricorrere a strumenti come ricerca internet, calcolatori o esecuzione di codice. È proprio questa capacità operativa, oggi al centro di applicazioni in sviluppo software, supporto alla ricerca e automazione dei task, a moltiplicare le richieste computazionali.
Il team ha trattato gli agenti come un nuovo tipo di carico di lavoro per server di data center e GPU. Rispetto al metodo di ragionamento passo dopo passo noto come chain-of-thought, gli agenti hanno generato in media 9,2 volte più chiamate ai modelli linguistici. Anche il tempo di risposta si è allungato in modo marcato, arrivando fino a 153,7 volte quello di un’elaborazione più convenzionale.
La ricerca mostra anche una forma di inefficienza meno visibile ma centrale per chi gestisce infrastrutture AI. Durante l’esecuzione, le GPU possono restare inattive mentre gli strumenti esterni completano le proprie operazioni: questo tempo improduttivo ha rappresentato fino al 54,5% del tempo totale di esecuzione. In pratica, hardware costoso e ad alto consumo non viene sempre sfruttato a pieno regime, perché l’agente deve coordinare più passaggi prima di arrivare alla risposta finale.
Il caso più netto riguarda un agente basato su un modello linguistico da 70 miliardi di parametri. In media, il sistema ha consumato 348,41 Wh per processare una singola query. È questo valore a portare al confronto più drastico con la generative AI standard: lo stesso tipo di richiesta, affrontata con il classico schema a singola domanda e risposta, richiederebbe una quota di energia molto inferiore.
Il gruppo di ricerca ha poi proiettato l’analisi su scala data center. In uno scenario futuro con 13,7 miliardi di richieste giornaliere ad agenti AI, la domanda elettrica stimata arriverebbe a circa 198,9 GW. La cifra supera la scala multi-gigawatt dei data center AI oggi perseguiti da diversi Paesi e corrisponde a circa metà del consumo medio complessivo di elettricità degli Stati Uniti.
Per le imprese, il messaggio operativo è diretto: l’adozione degli agenti AI non può essere valutata soltanto in termini di produttività, accuratezza o automazione. Nel conto entrano anche costi infrastrutturali, utilizzo delle GPU, efficienza dei data center e disponibilità energetica. L’AI agentica sposta quindi la competizione oltre la performance dei modelli, verso una progettazione coordinata di semiconduttori AI, data center, modelli e reti elettriche.
Yu Min-soo ha collegato il risultato alla necessità di misurare non solo quanto l’AI diventi più intelligente, ma anche quanta potenza e quali costi servano per implementarla e mantenerla. Lo studio, realizzato con Kim Ji-in come prima autrice e presentato a IEEE HPCA in febbraio, ha reso disponibili in open source l’implementazione degli agenti e il benchmark usato nel paper. La prossima fase dell’AI, dunque, non sarà solo una gara a modelli più capaci, ma anche a sistemi più efficienti da far funzionare su larga scala.