Kuaishou, compagnia tech di Pechino, ha rilasciato pochi giorni fa Kling AI, un modello di IA per la generazione di video. I risultati mostrati sul sito ufficiale sono spettacolari, ma a quanto pare c'è un "piccolo" problema: sembra che il modello censuri argomenti considerati politicamente sensibili dal governo cinese.
Come riporta TechCrunch, il modello è in grado di generare video con qualità 720p in circa due minuti, rispettando la fisica dell'ambientazione, ma blocca la generazione di soggetti e argomenti legati al governo. Prompt quali "La democrazia in Cina", "Il presidente Xi Jinping che cammina" o "Le proteste di Tiananmen square" mostrano un messaggio di errore generico che non esplicita i motivi del blocco.
La censura di Kling AI però funziona solo a livello di prompt: se si condivide un'immagine e si chiede al modello di animarla, non c'è il controllo sul soggetto; è possibile quindi caricare un'immagine di JinPing e chiedere di trasformarla in video, a patto però che nel prompt non lo si nomini.
Kling AI non è certo l'unico modello a soffrire di questo meccanismo di censura: il governo cinese ha imposto che tutti i modelli di IA usati nel Paese vengano validati dal Cyberspace Administration of China, il principale ente regolatore cinese, affinché le loro risposte riguardo gli argomenti sensibili "incarnino i valori socialisti fondamentali".
L'ente ha proposto una blacklist di fonti di dati che non possono essere usate per addestrare i modelli di IA. Qualsiasi compagnia che voglia rendere disponibile il proprio modello in Cina deve anche preparare migliaia di domande che assicurano che l'IA risponda sempre in maniera "sicura" secondo gli standard del governo cinese.
Il rischio è che queste politiche così stringenti rallentino l'innovazione cinese nel campo dell'IA e richiedano risorse eccessive per essere messe in pratica.
TechCrunch ha contattato Kuaishou per chiedere un commento sulla notizia, ma la compagnia non ha ancora risposto.
