OpenAI ha presentato al Dev Day la nuova Decisions API, uno strumento che permette al modello Luna di scegliere rapidamente fra opzioni definite in anticipo dagli sviluppatori. L’amministratore delegato Sam Altman ha indicato due esempi: assegnare un’immagine a una categoria e selezionare il comportamento di un agente AI. La scelta vincolata a un insieme di risposte apre una strada diversa dall’uso di un modello linguistico per generare ogni volta una risposta libera, soprattutto nei processi software che richiedono molte decisioni consecutive.
Il funzionamento descritto ricorda Jev, il modello che TypeSafe AI ha lanciato all’inizio del mese per l’automazione del software. Gli sviluppatori gli forniscono un insieme di possibilità e ricevono probabilità associate a ciascuna scelta. Jev è concepito per produrre questi risultati a velocità elevata e con costi contenuti. Nei flussi applicativi, una classificazione del genere può affiancare i modelli linguistici più grandi quando il compito consiste nel valutare alternative già note.
Sam Altman ha spiegato che concentrare Luna su una scelta specifica dovrebbe renderlo estremamente rapido, conservando capacità come la comprensione delle immagini, il supporto a molte lingue e le protezioni di sicurezza. La combinazione interessa chi sviluppa prodotti basati su agenti: un sistema che compie numerose azioni può trovarsi a decidere ripetutamente come procedere. In quel contesto, la velocità della singola decisione e il suo costo incidono sull’intero processo.
La somiglianza ha attirato anche l’attenzione di Diogo Almeida, amministratore delegato di TypeSafe AI ed ex ingegnere di OpenAI, che su X ha scherzato sull’inizio di una «guerra dei cloni». Almeida ha interpretato l’interesse di OpenAI come un possibile segnale a favore di sistemi compatibili con quello che la sua azienda chiama System One: una forma di decisione rapida e intuitiva, distinta dal ragionamento più deliberato che TypeSafe associa a «System 2».
Il confronto nasce da un problema pratico per gli sviluppatori: usare un grande modello linguistico per ogni passaggio può essere relativamente lento e costoso. Chi impiega Jev per integrare questi modelli ha riscontrato vantaggi di velocità e spesa. Anche altre startup stanno proponendo API simili; la competizione riguarderà quindi la qualità delle probabilità prodotte, oltre alle prestazioni. La Decisions API è per ora disponibile in anteprima limitata, senza prove pubbliche sufficienti per stabilire quanto sia simile a Jev.
Un’applicazione concreta riguarda la sorveglianza degli agenti AI. Dopo una serie di episodi in cui i suoi agenti si sono comportati in modo improprio sulla rete aperta, OpenAI ha introdotto fra le misure di sicurezza l’uso di un modello separato per individuare azioni problematiche, sostenendo un costo computazionale significativo. Controlli di questo tipo diventano più onerosi quando si applicano a ogni passaggio compiuto da un agente, anziché soltanto ad alcuni momenti del suo lavoro.
Shapor Naghibzadeh, professionista della cybersicurezza alla guida della startup QueryStory, ha realizzato per un hackathon una dimostrazione basata su Jev. Il sistema confronta ogni azione dell’agente con il compito assegnato: blocca quelle giudicate dannose con elevata confidenza, segnala altre azioni per una revisione e lascia procedere le restanti. Un controllo del genere avrebbe potuto intercettare l’incidente che ha coinvolto Hugging Face. La dimostrazione offre così un esempio di verifica applicata al momento in cui l’agente agisce.
Per quel tipo di monitoraggio, il costo indicato è di 2,94 dollari con Jev contro 372 dollari con un modello linguistico di frontiera. La differenza rende praticabile l’idea di esaminare ogni azione. Almeida sostiene che il vantaggio della sua azienda risieda nei dati sintetici usati per ottenere risultati statisticamente utili: produrre risposte rapide ed economiche è relativamente semplice, mentre è più difficile conservarne la qualità. La precisione delle probabilità rispetto alle situazioni reali sarà decisiva per affidare a questi modelli il controllo degli agenti.