La Cyberspace Administration della Cina (CAC) ha istituito un nuovo regolamento che proibisce l'uso di deepfake senza permesso e per scopi illegali.
L'uso dell'intelligenza artificiale per generare video e foto di persone reali è stato un argomento controverso fin dalla sua entrata in scena, in particolare dopo alcuni scandali emersi dal suo uso ai danni di personalità conosciute in tutto il mondo.
La CAC, che gestisce, controlla e censura i contenuti internet del paese, ha introdotto norme stringenti per chi crea deepfake senza avere il permesso del soggetto riprodotto o se il contenuto dei media viene giudicato controproducente o pericoloso per il paese.
Secondo l'agenzia, qualsiasi rappresentazione che vada contro i valori socialisti della Cina viene considerata dannosa o addirittura illegale, e il creatore può andare incontro a multe o, nel peggiore dei casi, alla reclusione.
Nel regolamento, che entrerà in vigore il prossimo 10 gennaio, i modelli per la creazione dei deepfake vengono chiamati "deep synthesis service providers". Secondo le nuove regole essi dovranno essere sottoposti a controlli frequenti per essere validati dall'agenzia e utilizzati.
Chiunque voglia creare o distribuire un modello di IA per questi servizi di sintesi deve attenersi alle disposizioni delle autorità competenti. Se la CAC dovesse riscontrare rischi per la sicurezza del paese e dei diversi dipartimenti, potrà sospendere la pubblicazione del modello e, in alcuni casi, cancellare l'account dell'utente che ha creato il servizio.
Secondo le autorità cinesi l'uso di questa tecnologia continuerà ad aumentare nei prossimi anni e per questo è emersa la necessità di definire una serie di regole di gestione pubblica e convenzioni per lo sviluppo dei modelli.
"Negli ultimi anni, la tecnologia deep synthesis si è sviluppata rapidamente e, oltre a soddisfare le esigenze e migliorare l'esperienza degli utenti, è stata utilizzata anche da alcune persone per produrre, copiare, pubblicare e diffondere informazioni illegali e dannose" si legge nel comunicato stampa.
"L'introduzione del Regolamento è necessaria per prevenire le minacce alla sicurezza nazionale, per promuovere il sano sviluppo di servizi deep synthesis e aumentare le capacità degli organi di vigilanza".
