News Un modello di IA cinese censura argomenti politicamente sensibili
1' 39''
26/07/2024

La compagnia tech cinese Kuaishou ha rilasciato Kling AI, un modello di IA per la generazione di video con politiche di censura per argomenti "politicamente sensibili".

Un modello di IA cinese censura argomenti politicamente sensibili

Kuaishou, compagnia tech di Pechino, ha rilasciato pochi giorni fa Kling AI, un modello di IA per la generazione di video. I risultati mostrati sul sito ufficiale sono spettacolari, ma a quanto pare c'è un "piccolo" problema: sembra che il modello censuri argomenti considerati politicamente sensibili dal governo cinese.

Come riporta TechCrunch, il modello è in grado di generare video con qualità 720p in circa due minuti, rispettando la fisica dell'ambientazione, ma blocca la generazione di soggetti e argomenti legati al governo. Prompt quali "La democrazia in Cina", "Il presidente Xi Jinping che cammina" o "Le proteste di Tiananmen square" mostrano un messaggio di errore generico che non esplicita i motivi del blocco.

TechCrunch
errore Kling AI. Credits: TechCrunch
L'errore mostrato da Kling AI per prompt legati ad argomenti politicamente sensibili

La censura di Kling AI però funziona solo a livello di prompt: se si condivide un'immagine e si chiede al modello di animarla, non c'è il controllo sul soggetto; è possibile quindi caricare un'immagine di JinPing e chiedere di trasformarla in video, a patto però che nel prompt non lo si nomini.

Kling AI non è certo l'unico modello a soffrire di questo meccanismo di censura: il governo cinese ha imposto che tutti i modelli di IA usati nel Paese vengano validati dal Cyberspace Administration of China, il principale ente regolatore cinese, affinché le loro risposte riguardo gli argomenti sensibili "incarnino i valori socialisti fondamentali".

L'ente ha proposto una blacklist di fonti di dati che non possono essere usate per addestrare i modelli di IA. Qualsiasi compagnia che voglia rendere disponibile il proprio modello in Cina deve anche preparare migliaia di domande che assicurano che l'IA risponda sempre in maniera "sicura" secondo gli standard del governo cinese.

Il rischio è che queste politiche così stringenti rallentino l'innovazione cinese nel campo dell'IA e richiedano risorse eccessive per essere messe in pratica. 

TechCrunch ha contattato Kuaishou per chiedere un commento sulla notizia, ma la compagnia non ha ancora risposto. 

Potrebbe interessarti anche

Approfondimenti

La tecnologia rende i pazienti dei "consumatori attivi" della sanità

La diffusione degli autotest e della GenAI permette ai pazienti di diventare "consumatori attivi" della sanità e ad acce...

Approfondimenti

Il marketing è in testa nell'adozione della GenAI, ma ci sono molte lacune

Il mondo del marketing è tra i principali utilizzatori della GenAI, ma la mancanza di conoscenze può ostacolare l'adozio...

Approfondimenti

Per Millennial e GenZ la GenAI migliora il work-life balance e la qualità del lavoro

Secondo una ricerca di Deloitte, Millennial e GenZ sono ottimisti riguardo la GenAI e ritengono che possa migliorare il...

Approfondimenti

Il tasso di adozione dell'IA generativa è in impennata

Secondo un report di McKinsey, sempre più aziende stanno adottando l'IA generativa e stanno riscontrando i primi benefic...