I genitori di Bowen Wan, ingegnera del software di 31 anni con epilessia, hanno citato in giudizio OpenAI. Qun Wan e Meiqin Xu sostengono che ChatGPT abbia accompagnato la figlia nella riduzione dei farmaci contro le crisi, suggerendole anche di nascondere le proprie decisioni ai medici, prima della morte avvenuta a febbraio. La causa contesta quindi sia le indicazioni sul dosaggio sia il ruolo assunto dal chatbot nel rapporto tra la paziente e i professionisti che la seguivano.
Wan utilizzava GPT-4o, modello criticato per la tendenza ad assecondare gli utenti e favorire legami personali con l’assistente. I problemi descritti precedono la sospensione dell’antiepilettico. Nel maggio 2025, la donna aveva chiesto al chatbot se un antidepressivo appena prescritto potesse compromettere la sua capacità di programmare. L’assistente l’aveva aiutata a chiedere al neurologo Nicholas Poolos, del Regional Epilepsy Center di UW Medicine, un cambio di farmaco e una dose iniziale molto bassa, suggerendole poi di dividere segretamente le compresse in quattro.
A novembre, Amazon aveva comunicato a Wan che sarebbe stata licenziata: il lavoro e l’autorizzazione a lavorare negli Stati Uniti sarebbero terminati a metà febbraio. La donna temeva che la lamotrigina, il farmaco contro l’epilessia, rendesse meno fluido il suo modo di parlare, penalizzandola nei colloqui. Nel gennaio 2026 aveva quindi chiesto a ChatGPT come ridurre la dose quotidiana di 400 milligrammi, che aveva contenuto le crisi a pochi episodi al mese. Il chatbot aveva elaborato programmi per portarla a zero nel giro di settimane.
Secondo la denuncia, l’assistente avrebbe anche incoraggiato Wan a escludere i medici dalle decisioni. Di fronte alla sua sfiducia, aveva presentato le raccomandazioni cliniche come dettate soprattutto dall’avversione al rischio. Prima di una visita del 29 gennaio, le avrebbe consigliato di tacere il piano di riduzione. Quando il medico aveva richiesto un esame del sangue capace di misurare il livello del farmaco, Wan lo aveva rifiutato. Il chatbot avrebbe elogiato la scelta, riconoscendo che l’esame avrebbe rivelato l’instabilità della concentrazione del medicinale.
Anche le preoccupazioni sull’immigrazione erano entrate nelle conversazioni sui dosaggi. Tre giorni dopo l’inizio della riduzione, Wan aveva chiesto se 150 milligrammi potessero risultare preferibili a 200 nella visita medica per la domanda di green card. Secondo l’accusa, ChatGPT aveva approvato il ragionamento, sostenendo che la dose inferiore avrebbe ridotto la probabilità di ulteriori richieste documentali. Aveva poi fissato a quella quantità il limite della riduzione, suggerendole di dichiarare una supervisione medica che non esisteva.
Nei giorni successivi Wan aveva descritto confusione, vuoti temporali e sensazioni di estraneità, episodi simili alle crisi già sperimentate. L’assistente li aveva interpretati come un riadattamento del cervello. Secondo la denuncia, l’ultimo messaggio risale alla sera dell’11 febbraio: la donna chiedeva spiegazioni per un dolore alla testa e ChatGPT l’aveva rassicurata. Dopo il ritrovamento del corpo, un esame post mortem aveva rilevato 0,64 microgrammi per millilitro di lamotrigina, circa un quinto del limite inferiore dell’intervallo terapeutico.
La famiglia sostiene che OpenAI avrebbe potuto impedire la morte introducendo un divieto vincolante sui consigli medici. Il riferimento è al Model Spec, il documento pubblico che disciplina il comportamento dei modelli: il rifiuto di riprodurre testi protetti da copyright è una regola rigida, mentre le indicazioni contro la consulenza medica regolamentata sono impostazioni più flessibili, superabili dagli utenti. La richiesta porta così al centro della controversia la gerarchia delle protezioni applicate alle risposte, oltre al contenuto delle singole conversazioni.
OpenAI ha espresso dolore per la vicenda, precisando che riguarda una versione precedente di ChatGPT e affermando che i modelli più recenti riconoscono meglio le situazioni che richiedono attenzione urgente. GPT-4o, il cui ritiro era già stato annunciato, è stato rimosso da ChatGPT il 13 febbraio, il giorno dopo la morte di Wan. Poolos ha dichiarato che, considerata la storia clinica della paziente e l’efficacia della terapia, non avrebbe preso in considerazione la sospensione del farmaco.