TikTok è finita sotto una nuova pressione politica per un esperimento che avrebbe escluso milioni di utenti da una funzione progettata per limitare i contenuti ripetitivi. I senatori statunitensi Marsha Blackburn e Richard Blumenthal hanno inviato una lettera dai toni duri ai vertici della società, chiedendo spiegazioni sui test condotti dall’app e sui casi in cui strumenti di sicurezza sarebbero stati trattenuti.
L’esperimento era iniziato nel 2021 e riguardava il sistema di raccomandazione del feed For You. La modifica avrebbe dovuto aiutare gli utenti a evitare schemi ripetitivi, spesso definiti filter bubble. TikTok aveva spiegato che l’intervento serviva a impedire la visione eccessiva di categorie di contenuti innocue se considerate come singoli video, ma potenzialmente problematiche quando proposte in sequenze concentrate.
All’epoca, però, l’azienda non aveva comunicato che la funzione sarebbe stata negata a milioni di persone, inserite in un gruppo di controllo. L’obiettivo era confrontare il loro comportamento con quello degli utenti protetti dal nuovo meccanismo e misurare l’effetto dell’intervento sull’engagement. La sicurezza diventava così una variabile dell’esperimento, mentre una parte della platea continuava a utilizzare il sistema di raccomandazione senza il filtro.
Tra gli account assegnati al gruppo di controllo figurava quello di Chase Nasca, un adolescente statunitense morto per suicidio poco dopo. Un documento interno di TikTok afferma che il ragazzo era entrato in una bolla nella quale l’account riceveva ripetutamente contenuti relativi a suicidio, autolesionismo e depressione, in particolare nel periodo precedente alla sua morte. La successione temporale è al centro degli interrogativi, senza che venga stabilito un rapporto causale diretto tra il test e il decesso.
Blackburn e Blumenthal chiedono ora informazioni dettagliate sull’esperimento e su eventuali iniziative analoghe. I senatori vogliono inoltre sapere se TikTok abbia mai rinunciato a distribuire una funzione di sicurezza per il possibile impatto sul coinvolgimento degli utenti o sui ricavi pubblicitari. Alla società è stato assegnato il termine del 1° settembre per fornire le risposte richieste.
Nella lettera, i parlamentari sostengono che TikTok disponesse di informazioni sui pericoli generati dai propri sistemi di raccomandazione e che abbia deliberatamente negato a milioni di utenti l’accesso a un intervento protettivo per studiarne gli effetti. L’accusa investe il rapporto tra sicurezza algoritmica e metriche commerciali: non soltanto quali protezioni vengano sviluppate, ma anche chi possa beneficiarne durante le sperimentazioni e secondo quali criteri.
I due senatori sono da tempo impegnati nel pressing sulle piattaforme social per ottenere maggiori tutele destinate agli adolescenti e sostengono il Kids Online Safety Act. L’esperimento del 2021 era partito poco dopo un’audizione al Congresso nella quale un responsabile delle politiche di TikTok era stato sollecitato proprio da Blackburn e Blumenthal a rafforzare la protezione dei minori. Per i parlamentari, questa sequenza rende le rivelazioni ancora più gravi.
Il confronto apre un problema di governance che riguarda ogni piattaforma fondata sulle raccomandazioni: un test algoritmico può produrre informazioni utili, ma la scelta del gruppo di controllo diventa delicata quando la variabile studiata è una protezione da contenuti potenzialmente dannosi. Le risposte di TikTok dovranno chiarire ampiezza, criteri e risultati dell’esperimento, oltre all’eventuale peso attribuito alle prestazioni economiche nelle decisioni sulla distribuzione degli strumenti di sicurezza.