Una donna identificata come Jane Doe 4 si è unita alla causa intentata da tre adolescenti del Tennessee contro xAI, accusando il chatbot Grok di avere reso possibile la creazione di materiale sessualmente esplicito a partire da una sua fotografia d’infanzia. L’azione legale mette sotto esame le precauzioni adottate dalla società di Elon Musk per impedire che i suoi strumenti generativi vengano utilizzati contro persone reali, compresi i minori.
La donna sostiene che il patrigno abbia manipolato con Grok una fotografia scattata quando aveva 11 anni, generando oltre 7.000 immagini esplicite che la ritraevano. Secondo il suo racconto, il materiale sarebbe stato scoperto durante un’operazione delle forze dell’ordine. Due giorni dopo il ritrovamento delle immagini, l’uomo sarebbe stato trovato morto per suicidio. Le circostanze descritte restano parte delle accuse presentate nell’ambito del procedimento.
«L’accesso illimitato a questi strumenti si sta diffondendo molto rapidamente», ha dichiarato Jane Doe 4. «Sta prendendo la vita quotidiana e la sta trasformando in abuso sessuale sui minori». Le sue parole concentrano l’attenzione sulla possibilità di trasformare una normale fotografia familiare in una grande quantità di contenuti sintetici, senza che la persona rappresentata abbia compiuto alcuna azione o fornito il proprio consenso.
La causa era stata avviata da tre adolescenti del Tennessee, che accusano xAI di non avere adottato precauzioni basilari per impedire a Grok di produrre immagini esplicite di persone reali, inclusi i minori. Jane Doe 4 ha ora aderito al procedimento, ampliando il quadro delle contestazioni rivolte alla società, oggi parte di SpaceX. I ricorrenti chiedono inoltre che l’azione venga riconosciuta come class action, così da poter rappresentare una platea più ampia di persone potenzialmente coinvolte.
Le accuse si inseriscono dopo che la piattaforma X era stata inondata, all’inizio dell’anno, da milioni di immagini sessualizzate generate con Grok. Il passaggio dalla creazione di immagini sintetiche alla manipolazione di fotografie identificabili espone un punto particolarmente delicato dei sistemi generativi: la tecnologia può produrre rapidamente numerose variazioni di uno stesso contenuto, moltiplicando la portata dell’abuso e rendendo più complessa la gestione delle conseguenze per le persone ritratte.
Per aziende e sviluppatori, il procedimento porta in primo piano la responsabilità legata all’accesso agli strumenti, ai controlli sulle richieste e alle barriere contro la produzione di contenuti sessuali sintetici riferiti a persone reali. Le contestazioni non riguardano soltanto ciò che un modello è tecnicamente capace di generare, ma anche le misure predisposte dal fornitore per prevenire impieghi prevedibilmente dannosi. Per gli utenti, una fotografia pubblicata o conservata in un contesto ordinario può diventare la materia prima di una manipolazione su larga scala.
La vicenda resta fondata su accuse che dovranno essere valutate nel procedimento giudiziario, ma il dato delle 7.000 immagini mostra la scala che un singolo utilizzatore può raggiungere attraverso un sistema generativo. La richiesta di class action sposta inoltre il confronto oltre il singolo episodio, verso la verifica delle tutele offerte da xAI e dei limiti applicati a Grok. Al centro rimane una domanda concreta: quali protezioni debbano intervenire prima che una fotografia reale possa essere trasformata in migliaia di contenuti abusivi.