Immaginate di scorrere dei video su TikTok o Instagram e all'improvviso sentire la vostra voce dire delle cose che non avete mai detto né pensato di dire: come vi sentireste?
Questo è ciò che sta accadendo nel mondo dello spettacolo: centinaia di doppiatori stanno assistendo a usi impropri della propria voce per i quali non hanno mai lontanamente pensato di dare il consenso.
Allegra Clark, doppiatrice di molti personaggi di successo nel mondo dei videogiochi, è una delle tante vittime della clonazione illecita delle voci tramite tool di IA. Clark ha raccontato la sua esperienza a Rashi Shrivastava, autrice per Forbes, cercando di riportare il problema all'attenzione del mondo cinematografico e del pubblico.
Nel caso della doppiatrice, per il video in questione era stato probabilmente usato il tool sviluppato da ElevenLabs, una delle più note società di sintesi vocale.
"Sentirti parlare quando non sei davvero tu ti fa sentire violato" ha affermato Clark, spiegando anche che i doppiatori possono finire in grossi guai se le persone pensano che abbiano detto frasi offensive o pericolose.
Il problema è che questi professionisti non sono abbastanza tutelati contro gli usi impropri della loro voce. Clark si è rivolta a ElevenLabs per chiedere di eliminare la clip audio ma la compagnia ha risposto dicendo che non era stata in grado di determinare se l'audio era stato realizzato usando il loro tool. Non solo: ElevenLabs ha specificato che, eventualmente, avrebbe eliminato la clip solo se fosse stata diffamatoria o contenente frasi di incitamento all'odio, quindi non il caso di Clark.
Contattata da Forbes, la compagnia ha spiegato che, in caso di contenuti diffamatori o pericolosi, gli utenti devono avere il consenso esplicito di chi sta prestando la voce. Alcuni mesi dopo l'accusa di Clark, ElevenLabs ha lanciato un tool di captcha vocale che genera una parola random e controlla se la voce che la pronuncia è la stessa che si vuole clonare.
Se si ha a disposizione un gran numero di registrazioni del doppiatore, superare questo meccanismo di controllo potrebbe diventare piuttosto semplice.
L'IA sostituisce i doppiatori
La questione si estende ben oltre gli usi scorretti della voce dei doppiatori: molti studi di produzione stanno cominciando a usare i tool di IA per replicare le voci.
Se è vero che per usare le registrazioni c'è bisogno del consenso dei legittimi proprietari, in molti casi, di fronte al rifiuto dei doppiatori, le case cinematografiche semplicemente cercano altre persone che siano disposte a vendere la propria voce.
Il problema, spiega Shrivastava, è che, a differenza di attori, artisti e autori di opere fisiche, i doppiatori non hanno un'adeguata protezione legale che gli assicuri che la loro voce non venga utilizzata senza il loro consenso. Al contrario di un volto o di un'opera, la voce non è ancora riconosciuta come proprietà intellettuale.
Anche se si può applicare un copyright a una specifica registrazione vocale, gli studi di produzione continuano a usare vecchie registrazioni per addestrare i modelli di IA.
Nei contratti dei doppiatori, inoltre, gli studi specificano che "possiedono la registrazione per sempre, in tutto l'universo conosciuto, con qualsiasi tecnologia attualmente esistente o da sviluppare". I contratti ovviamente sono stati scritti e firmati ben prima della diffusione dei nuovi sistemi di intelligenza artificiale, un'evenienza che i doppiatori non potevano di certo prevedere.
Se le case cinematografiche vogliono utilizzare le voci dei doppiatori, è necessario rivedere i contratti e prevedere un compenso adeguato che non si limiti al semplice "acquisto" della voce, ma anche a ogni suo uso nelle diverse produzioni.
NAVA, associazione no-profit dell'industria del doppiaggio, e SAG-AFTRA, il sindacato statunitense del settore dei media, stanno collaborando per cercare di eliminare dai contratti le clausole che consentono ai datori di lavoro di utilizzare la voce di un attore per sintetizzarla col machine learning.
Una categoria in pericolo
L'uso sconsiderato delle voci del mondo dello spettacolo rischia di minare la carriera dei doppiatori. Sono tantissimi i professionisti che hanno trovato sul web dei video in cui fanno discorsi inappropriati che non hanno mai pronunciato, senza aver dato il loro consenso per l'uso della voce.
Non è sempre facile provare che certe clip sono state generate dall'intelligenza artificiale, e questo può compromettere la possibilità di ricevere nuovi ingaggi. "Se dei potenziali acquirenti mi sentono dire certe cose, quali saranno le conseguenze sui miei lavori futuri?" si chiede Cissy Jones, doppiatrice e membro fondatore del NAVA.
Anche il pubblico potrebbe farsi un'idea sbagliata di un professionista del settore se dovesse sentire audio inappropriati dove è la sua voce a parlare. In quel caso bisognerebbe convincere migliaia di persone della violazione.
I doppiatori sono minacciati da tutte le parti e devono anche fare i conti con la vergogna di sentirsi pronunciare affermazioni pericolose, sessiste o denigratorie nei confronti di individui o gruppi.
Molte compagnie di sistemi di speech-to-text stanno inserendo controlli simili a quelli di ElevenLabs per assicurarsi che gli utenti abbiano il permesso di usare la clip che stanno caricando sul sito.
Oltre al fatto però che non si ha mai l'assoluta certezza del consenso, queste misure non rispondono a questioni etiche più profonde come l'uso postumo delle voci: cosa succede quando un doppiatore muore? Cosa ne è della sua voce?
Per la categoria è chiaro il da farsi: scegliere un altro professionista che lo sostituisca e impedire che le sue performance vengano replicate dall'IA indefinitamente.
Le questioni aperte sono ancora molte e vanno risolte il prima possibile per garantire ai doppiatori di continuare a lavorare facendo ciò che li appassiona, senza la paura di ripercussioni gravi. In tal senso, le compagnie di IA dovrebbero mettersi in prima linea e collaborare con i professionisti del settore affinché le nuove tecnologie vengano usate nel rispetto della loro integrità.
