News Arthur Shield protegge da prompt e output pericolosi
1' 13''
05/06/2023

Arthur Shield è un firewall pensato per proteggere utenti e aziende da output malevoli, attacchi di prompt injection e leak di dati sensibili.

Arthur Shield protegge da prompt e output pericolosi

Uno dei problemi principali dei modelli generativi è il rischio legato alla generazione di output errati o pericolosi e al leak di dati sensibili. Al fine di garantire l'uso e lo sviluppo sicuro e consapevole dei tool generativi, Arthur, compagnia attiva nel mondo dell'intelligenza artificiale, ha presentato Arthur Shield, il primo firewall per gli LLM. 

Il firewall permette alle organizzazioni di identificare e bloccare i rischi dei modelli prima che diventino un problema per il business.

Integrato nello sviluppo delle applicazioni, Arthur Shield consente di filtrare gli output considerati offensivi e non in linea coi principi dell'organizzazione. Il firewall è inoltre in grado di individuare le risposte sbagliate ed evitare che vengano proposte all'utente.

Pixabay
prompt LLM

Arthur Shield si occupa anche di bloccare input malevoli, pensati per generare risposte dannose od ottenere dati sensibili dall'azienda o dal dataset di addestramento, bloccando anche l'esecuzione di attacchi di prompt injection.

Il firewall si inserisce subito sotto il livello applicativo, facendo da scudo per il modello sottostante, le API e i dati di training. 

"Gli LLM sono una delle tecnologie più rivoluzionarie dall'avvento di Internet" ha affermato Adam Wenchel, Co-Fondatore e CEO della compagnia. "Arthur ha creato gli strumenti per sviluppare questa tecnologia più velocemente e con più sicurezza, così che le organizzazioni possano anticipare i loro competitor senza esporre il business o i propri clienti a rischi inutili".

Al momento il firewall è disponibile in versione beta soltanto per alcuni clienti della compagnia.

Potrebbe interessarti anche

Scenario

Una nuova era di creatività o una minaccia per la società?

L'IA generativa promette di espandere la creatività umana, ma solleva preoccupazioni per l'impatto sulla società e sull'economia.

Approfondimenti

Soluzioni di IA integrate ed efficienti per l'OCX: la visione di Spitch

Alessandra Peterlin, Director of Sales and Consultancy di Spitch Italia, condivide il suo punto di vista sull'uso dell'IA nell'OCX.

News

Futureberry presenta COSMO per l'apprendimento personalizzato e on-demand basato su IA

Futureberry ha lanciato COSMO, una piattaforma di apprendimento personalizzato on-demand basata su IA per aiutare i giovani a inserirsi nel mondo del lavoro del futuro.

News

Valutare il rischio di credito, un aiuto da AI Generativa e dati alternativi

L'AI Generativa permette di analizzare dati non strutturati e alternativi per conoscere meglio i clienti e valutare il rischio di credito con efficacia.