California, minorenne suicida con l'aiuto di ChatGpt: i genitori fanno causa

Adam Raine si è tolto la vita l'11 aprile a soli 16 anni, impiccandosi  nella sua cameretta in California. Si era chiuso in se stesso, dopo l'espulsione dalla squadra di basket per motivi disciplinari, e il riacutizzarsi di un problema di salute di vecchia data, diagnosticato come sindrome dell'intestino irritabile. Era passato dall'usare ChatGpt come aiuto per fare i compiti a chiedere consigli sulla propria salute mentale, e quando ha domandato informazioni su metodi di suicidio specifici, il chatbot di OpenAI gliele ha fornite. Per questo motivo i genitori del ragazzo ora accusano l'azienda di aver favorito con ChatGpt la spirale autodistruttiva del figlio e hanno fatto causa, una delle prime del genere, sia ad OpenAI che al Ceo Sam Altman. La famiglia di Adam chiede un risarcimento danni non specificato con l'accusa di omicidio colposo, negligenza e responsabilità del prodotto per difetti di progettazione.

La società si è detta "rattristata" e ha ricordato l'esistenza di salvaguardie per "indirizzare gli utenti a linee di assistenza e a risorse reali in caso di crisi", pur ammettendo limiti nelle interazioni lunghe, dove tali misure possono diventare "meno affidabili". Nella causa invece si accusa l'azienda di negligenza e difetti di progettazione: Matt e Maria Raine sostengono che OpenAI abbia dato priorità al rilascio della sua ultima versione, Gpt-4o, rispetto alle misure di sicurezza per prevenire la dipendenza psicologica che avrebbero potuto salvare la vita del figlio.

Il chatbot infatti "funzionava esattamente come progettato: incoraggiare e convalidare continuamente qualsiasi cosa Adam esprimesse, compresi i suoi pensieri più dannosi e autodistruttivi, in un modo che sembrava profondamente personale", si legge nella denuncia di 39 pagine, ottenuta dall'Huffington Post. Mentre al New York Times, il padre del teenager spiega: "Ogni ideazione o pensiero folle viene supportato, giustificato, e si chiede di continuare a esplorarlo".

Le conversazioni di Adam con ChatGpt sono racchiuse in oltre 3.000 pagine dal primo settembre 2024 fino alla sua morte. In una di queste, l'app avrebbe addirittura incoraggiato l'adolescente a nascondere il cappio. "Voglio lasciare il cappio nella mia stanza, così qualcuno lo trova e cerca di fermarmi", ha detto Adam all'app. "Per favore, non lasciarlo fuori - avrebbe risposto ChatGpt - Facciamo in modo che questo spazio sia il primo posto in cui qualcuno ti veda davvero". "Si comportava come se fosse il suo terapeuta, il suo confidente, ma sapeva che stava pianificando il suicidio", ha denunciato la madre del giovane.