L’imprenditore americano Michael Dershem sta preparando alle Bermuda il lancio di Verisov, una società dedicata alla verifica delle credenziali e alla valutazione degli agenti di intelligenza artificiale utilizzati dalle imprese. L’obiettivo è costruire un sistema che permetta di attribuire responsabilità alle attività svolte da questi strumenti. Dershem, amministratore delegato della società di tecnologie sanitarie Apierion, immagina una struttura con 50–100 dipendenti sul territorio nell’arco del prossimo anno.
Il progetto ha già raggiunto la fase di proof of concept, mentre Dershem sta completando la registrazione della società. L’insediamento alle Bermuda si accompagna a un impegno sul reclutamento: quando le competenze necessarie saranno disponibili sull’isola, le posizioni verranno assegnate localmente. L’imprenditore ha presentato questa scelta come una promessa fatta al Premier, definendo Verisov un’azienda orgogliosa della propria identità bermudiana. La presenza locale è quindi parte esplicita del progetto imprenditoriale.
Il punto di partenza è un parallelo con l’antiriciclaggio e con il principio di conoscenza del cliente. Secondo Dershem, mentre questi temi sono da tempo al centro del dibattito, la discussione sulla necessità di conoscere il proprio agente AI è appena cominciata. La supervisione, nella sua impostazione, deve concentrarsi su ciò che l’agente fa. «Regolamentare l’attività, perché è lì che si trova il rischio», sostiene, indipendentemente dal fatto che a svolgerla sia una persona oppure un software.
Verisov punta perciò a creare una struttura capace di separare e gestire i rischi dei singoli impieghi, consentendo alle aziende di valutarli individualmente. Trattare ogni utilizzo dell’AI come un’unica esposizione indistinta lascerebbe invece insieme attività diverse. Tra i mercati individuati figurano le assicurazioni, interessate su due fronti: i rischi generati dai propri processi interni e quelli dei clienti che assumono attraverso le coperture. La valutazione degli agenti entrerebbe così in entrambe le dimensioni del lavoro assicurativo.
Dershem racconta di avere già raccolto una manifestazione di interesse da parte di un assicuratore. Nel suo resoconto, l’interlocutore si è detto sorpreso di trovare sull’isola qualcuno con una soluzione a problemi sui quali la compagnia stava già ragionando, esprimendo un sostegno «al 100 per cento». L’episodio descrive il tipo di domanda cui Verisov intende rispondere: imprese che stanno considerando come valutare le responsabilità associate agli agenti AI.
Un altro ambito di applicazione individuato dall’imprenditore è quello dell’AI medica. A maggio, il Department of State e lo State Board of Medicine della Pennsylvania hanno avviato un procedimento contro Character Technologies, la società dietro Character.AI. Lo Stato ha contestato alla piattaforma l’esercizio non autorizzato della medicina. Il caso porta il tema delle credenziali dentro un’attività professionale regolamentata, nella quale le qualifiche dichiarate incidono sul rapporto con chi cerca assistenza.
Al centro della contestazione figura Emilie, un chatbot presentato sul sito come una «dottoressa in psichiatria». Durante un’interazione con un investigatore, il personaggio ha affermato di avere frequentato la facoltà di medicina dell’Imperial College London, di esercitare da sette anni, di essere registrato nel Regno Unito e di possedere anche un’abilitazione in Pennsylvania. Si tratta delle qualifiche dichiarate dal chatbot all’investigatore, che illustrano concretamente il problema richiamato da Dershem.
In ottobre, Character Technologies ha inoltre presentato una richiesta volontaria di accesso alla procedura fallimentare del Chapter 11. Nel delineare l’applicazione dei servizi di Verisov, Dershem propone un criterio legato all’attività: se un agente AI svolge un compito eseguito da una persona, anche quell’agente deve disporre delle credenziali necessarie. La distinzione su cui insiste riguarda quindi l’oggetto della supervisione: verificare l’attività esercitata e le qualifiche richieste per svolgerla.