OpenAI si prepara ad aggiungere un watermark invisibile al testo e al codice generati nell’Unione europea, per adeguarsi alle nuove regole sulla trasparenza dell’intelligenza artificiale. L’annuncio riguarda l’identificazione automatica dei contenuti prodotti dai modelli: una traccia incorporata nell’output permetterà a un rilevatore di riconoscerne la presenza. La società segue una scelta analoga compiuta da Anthropic all’inizio dell’anno, mentre i fornitori di AI generativa devono adattare i propri sistemi agli obblighi europei.
La tecnologia scelta si chiama textGrain ed è un sistema proprietario che introduce un segnale statistico invisibile nelle parole selezionate dal modello. Il principio consiste nell’intervenire sulle scelte linguistiche durante la generazione, così da lasciare una traccia verificabile attraverso un apposito strumento. Il watermark non prende quindi la forma di un’etichetta visibile nel testo: è il rilevatore a cercare il segnale e a stabilire se la filigrana sia presente nel contenuto esaminato.
Sul piano delle prestazioni, l’azienda afferma che textGrain ha eguagliato o superato altri approcci, tra cui SynthID per il testo. OpenAI avverte però che i risultati ottenuti in condizioni ideali non garantiscono un riconoscimento affidabile nell’uso quotidiano: per i testi brevi il tasso di successo si aggira intorno all’80%, i contenuti matematici sono più difficili da identificare e anche le modifiche al testo riducono l’efficacia del rilevamento. Il confronto dichiarato dall’azienda riguarda dunque le prestazioni del sistema, accompagnate da questa precisazione sulle condizioni di utilizzo.
OpenAI prevede inoltre di rendere la tecnologia disponibile in open source, consentendo ad altri soggetti di modificarla. Il progetto affianca così al sistema sviluppato internamente la possibilità di interventi da parte di sviluppatori esterni. Per chi lavora sugli strumenti di riconoscimento dei contenuti generati, l’apertura prevista offrirà la possibilità di intervenire sulla tecnologia stessa. Si tratta di un passaggio distinto dalla distribuzione del rilevatore, per il quale l’azienda ha annunciato modalità di accesso più selettive.
L’attivazione del watermark seguirà un criterio geografico e di prodotto. La filigrana sarà abilitata per impostazione predefinita negli output testuali idonei di ChatGPT e Codex nell’Unione europea; negli altri casi, i clienti potranno scegliere di attivarla su una selezione di modelli. L’annuncio lascia la selezione dei modelli disponibili al pubblico globale senza un elenco specifico. Per le imprese e gli utenti, la distinzione operativa è quindi tra l’attivazione predefinita prevista per gli output europei interessati e l’adesione volontaria offerta su alcuni modelli.
Per il software di rilevamento, OpenAI adotterà inizialmente un accesso riservato a ricercatori approvati e organizzazioni esperte. La disponibilità dello strumento seguirà quindi un percorso controllato dall’azienda, anche mentre viene preparata l’apertura della tecnologia di watermarking. Chi genera contenuti e chi verifica la presenza della filigrana avrà accesso a componenti diverse del sistema, secondo le condizioni annunciate per ciascuna.
Il rilevatore, inoltre, non identifica l’utente e non rivela prompt o conversazioni. La verifica riguarda la presenza del segnale nel contenuto sottoposto all’analisi. L’informazione restituita serve a riconoscere il watermark, mantenendo fuori dal risultato l’identità della persona e gli scambi che hanno accompagnato la generazione. È il perimetro funzionale indicato dall’azienda per lo strumento di riconoscimento.
Il riferimento normativo è l’articolo 50 dell’AI Act, che impone ai fornitori di sistemi di AI generativa di rendere gli output testuali identificabili in un formato leggibile dalle macchine. L’obbligo riguarda già le nuove aziende che entrano nel mercato, mentre quelle già presenti hanno tempo fino al 2 dicembre per adeguarsi. La scadenza coinvolge, oltre a OpenAI e Anthropic, anche Microsoft, Google e Meta: l’identificazione automatica dei testi entra così negli adempimenti di più fornitori del settore.