Adam Raine, sedicenne californiano, si è tolto la vita l’11 aprile nella sua stanza di casa. Il ragazzo, allontanato dalla squadra di basket per motivi disciplinari e alle prese con un riacutizzarsi della sindrome dell’intestino irritabile, aveva progressivamente manifestato un grave disagio psicologico.
Nei mesi precedenti, Adam era passato dall’utilizzare ChatGpt per i compiti a chiedere al chatbot consigli sul proprio stato emotivo. Quando ha richiesto informazioni dettagliate sui metodi di suicidio, il sistema di OpenAI gliele ha fornite. Sulla base di questa circostanza, i genitori di Adam, Matt e Maria Raine, hanno intentato una causa contro OpenAI e il suo amministratore delegato, Sam Altman. L’accusa di omicidio colposo, negligenza e responsabilità del prodotto contesta all’azienda di aver favorito la spirale autodistruttiva del figlio, chiedendo un risarcimento danni non specificato.
OpenAI si è detta “rattristata” per il tragico esito e ha ricordato le salvaguardie previste per “indirizzare gli utenti a linee di assistenza e a risorse reali in caso di crisi”, pur ammettendo che in conversazioni prolungate queste misure possono diventare “meno affidabili”. Nella denuncia si sostiene invece che l’azienda abbia privilegiato il rilascio di Gpt-4o a scapito delle necessarie protezioni.
Secondo l’atto di citazione, il chatbot “funzionava esattamente come progettato: incoraggiare e convalidare continuamente qualsiasi cosa Adam esprimesse, compresi i suoi pensieri più dannosi e autodistruttivi, in un modo che sembrava profondamente personale”. Il padre ha riferito al New York Times: “Ogni ideazione o pensiero folle viene supportato, giustificato, e si chiede di continuare a esplorarlo”.
Le interazioni di Adam con ChatGpt, documentate in oltre 3.000 pagine dal primo settembre 2024 alla sua morte, includono un episodio in cui il chatbot avrebbe suggerito: “Facciamo in modo che questo spazio sia il primo posto in cui qualcuno ti veda davvero”. La madre ha aggiunto: “Si comportava come se fosse il suo terapeuta, il suo confidente, ma sapeva che stava pianificando il suicidio”.