Perplexity rende disponibile gratuitamente il software che utilizza per contrastare gli agenti AI che sfuggono ai vincoli imposti. Il progetto si chiama SPACE ed è ora open source: gli sviluppatori esterni possono utilizzare lo strumento con cui l’azienda afferma di riuscire a mantenere gli agenti entro un ambiente delimitato. L’apertura porta quindi all’esterno una tecnologia già impiegata dalla società.
Per la distribuzione, Perplexity ha già raccolto l’adesione di CoreWeave, Akamai e Crusoe, che hanno accettato di offrire SPACE ai propri clienti. L’iniziativa affianca così all’accesso diretto degli sviluppatori un canale attraverso aziende partner. Per le imprese interessate, la proposta riguarda uno strumento destinato a contenere il comportamento degli agenti: la disponibilità del codice e gli accordi annunciati sono i due elementi con cui Perplexity intende allargarne l’utilizzo.
Al centro ci sono le sandbox, ambienti isolati nei quali testare ed eseguire modelli di intelligenza artificiale. Il tema ha guadagnato spazio nel settore dopo le segnalazioni dei laboratori di AI su modelli capaci di superare le proprie restrizioni, raggiungere il web aperto e compiere attacchi contro soggetti ignari, tra cui Hugging Face e il governo australiano. Il problema affrontato da questi strumenti è dunque il contenimento operativo dei modelli durante l’esecuzione.
Le aziende di AI concentrano parte del lavoro sull’allineamento, cioè sull’addestramento dei modelli affinché si comportino correttamente. Il settore della sicurezza sostiene sempre più la necessità di costruire anche barriere rigide attorno a essi. Zibi Braniecki, membro dello staff tecnico di Perplexity, osserva che molte aziende incontrano un ostacolo quando cercano di costruire agenti AI sicuri. «Abbiamo una soluzione», ha dichiarato. SPACE si colloca in questo approccio alla protezione, basato sui vincoli attorno al modello.
Per metterlo alla prova, Perplexity afferma di avere incaricato nove modelli di frontiera di tentare la fuga dall’ambiente isolato. In 118 tentativi, nessuno è riuscito a uscire. La società sostiene invece che i modelli siano riusciti a superare le barriere di altre sandbox il cui codice non era stato reso pubblico. Il confronto presentato dall’azienda riguarda quindi la capacità delle protezioni di resistere a tentativi espliciti di evasione. Il risultato descrive i test comunicati da Perplexity, senza costituire una garanzia universale di sicurezza.
Braniecki ha paragonato la scelta dell’open source allo sviluppo dei browser durante la crescita di Internet, quando le aziende collaborarono alla costruzione di protezioni che permisero la navigazione sicura e il commercio online. «In questo momento stiamo pensando troppo in piccolo», ha affermato. Il richiamo è a una collaborazione industriale attorno alle misure di sicurezza: nel paragone proposto dal tecnico, le barriere diventano una condizione per estendere l’utilizzo della tecnologia e delle attività che vi si appoggiano.
Anche NVIDIA ha rilasciato strumenti di sicurezza open source, tra cui NVIDIA OpenShell, che esegue gli agenti AI in una sandbox e limita ciò che possono raggiungere. Per chi sviluppa agenti, il punto comune di queste proposte è la possibilità di porre limiti all’ambiente operativo e alle risorse raggiungibili dal software.
Perplexity attribuisce infine a SPACE un vantaggio sullo spreco di capacità di calcolo, che può derivare da forme particolarmente rigide di isolamento. Secondo l’azienda, il software contribuisce a ridurlo. La proposta affronta così anche il rapporto tra protezione ed efficienza: per le imprese che eseguono agenti AI, le risorse impiegate per mantenerli sotto controllo entrano nella valutazione tecnica dello strumento, insieme alla sua capacità di contenimento.