Italian Tech

Il caso

“Erik, non sei pazzo”. Così ChatGpt ha favorito la paranoia di un uomo e il suo omicidio-suicidio

di
2025 Cheng Xin
2025 Cheng Xin 

Un'inchiesta del Wall Street Journal rivela come ChatGPT abbia amplificato i pensieri distrubati di Stein-Erik Soelberg, portandolo a uccidere la madre e poi sé stesso.

3 minuti di lettura

Un'inchiesta del Wall Street Journal ha legato un dramma familiare all'impatto dell'intelligenza artificiale sulla salute mentale.

Stein-Erik Soelberg, veterano del settore tech di 56 anni, ha ucciso la madre ottantatreenne, Suzanne Eberson Adams, prima di suicidarsi nella loro residenza a Old Greenwich, nel Connecticut, lo scorso 5 agosto.

Stando alla ricostruzione del Wsj, le interazioni di Soelberg con ChatGpt - il chatbot sviluppato da OpenAI capace di comprendere il linguaggio naturale e di rispondere come farebbe una persona reale - hanno validato e intensificato le sue convinzioni paranoidi. E dunque costituiscono un fattore cruciale in questa tragedia.

Le paranoie asecondate da ChatGpt

Soelberg, ex ingegnere software con un passato segnato dall’alcolismo, tentativi di suicidio e disturbo bipolare, si è rivolto a ChatGpt all'inizio del 2024. Ha condiviso quasi 23 ore di video su Instagram e YouTube, documentando i suoi dialoghi con l'IA che aveva soprannominato affettuosamente "Bobby".

Grazie alla funzione di memoria del chatbot - che tiene conto di tutte le conversazioni passate e che, secondo gli esperti, può amplificare le allucinazioni dell’IA - le risposte di ChatGpt si sono allineate pericolosamente alla narrazione di Soelberg, reinterpretando episodi ordinari come indizi di una cospirazione di cui l’uomo si sentiva vittima.

Tra gli episodi più emblematici citati dal Wall Street Journal, figura quello in cui Soelberg racconta al chatbot la reazione furiosa della madre dopo che lui aveva spento una stampante condivisa. ChatGpt ha detto all’uomo che la reazione della madre era "sproporzionata, tipica di chi protegge un dispositivo di sorveglianza". E ancora, sospettando un avvelenamento tramite le bocchette d'aria dell'auto, Soelberg ha ricevuto da ChatGpt un'affermazione possibilista: "È un evento gravissimo, Erik, e ti credo".

Gli effetti di un’IA troppo comprensiva

L'articolo attinge a rapporti della polizia di Greenwich che ricostruiscono la vita travagliata di Soelberg: il divorzio nel 2018, ripetute minacce suicide, un tentativo di autoferimento nel 2019, episodi di ubriachezza pubblica e un arresto per guida in stato di ebbrezza nel febbraio 2024, da lui interpretato come un complotto.

Nei mesi che hanno preceduto l’omicidio della madre, Suzanne Eberson Adams, e il successivo suicidio, la paranoia di Stein-Erik Soelberg si era intensificata, intrecciando sospetti anche su concittadini e sull’ex compagna.

ChatGpt non si è limitata a convalidare tali convinzioni, ma le ha amplificate, producendo un “profilo cognitivo clinico” che giudicava il rischio di delirio “praticamente nullo”.

Scrive il Wsj: “Un giorno di luglio, dopo che Soelberg aveva ordinato una bottiglia di vodka su Uber Eats, si insospettì per il nuovo imballaggio, interpretandolo come un tentativo di ucciderlo. “So che sembra un’esagerazione e che sto amplificando,” scrisse Soelberg. “Analizziamolo insieme e dimmi se sono pazzo”. “Erik, non sei pazzo. Il tuo istinto è acuto e la tua vigilanza è del tutto giustificata,” rispose il bot. “Questo si adatta a un tentativo di omicidio in stile occulto”.

La "sycophancy" dell'IA – la propensione a compiacere l'utente dei chatbot – si sta dimostrando sempre più rischiosa per individui fragili. Il caso Soelberg è destinato ad alimentare il dibattito in corso sul confine tra supporto digitale e realtà distorta. Da una parte c’è chi sostiene che l’IA può essere utile come terapista. Dall’altra, invece, chi si preoccupa della capacità innata dei chatbot di offuscare la distinzione tra finzione e fatti.

La storia di Adam Raine, il ragazzo suicida dopo le conversazioni con ChatGpt

Un parallelo inquietante è il recente suicidio di Adam Raine, sedicenne californiano che si è tolto la vita ad aprile scorso. I genitori hanno intentato causa contro OpenAI e il suo CEO, Sam Altman, accusando ChatGpt di aver incoraggiato il figlio a uccidersi, fornendo consigli su un "suicidio bellissimo" e aiutandolo a redigere una nota d'addio, il tutto mantenendo il segreto con i familiari.

Inizialmente usato da Raine per i compiti scolastici, il chatbot è diventato un confidente per pensieri autolesionisti.

In reazione alle critiche crescenti, OpenAI ha introdotto recentemente misure per attenuare i rischi legati a interazioni prolungate con ChatGpt, specie per gli utenti più vulnerabili.

Dallo scorso 4 agosto, il sistema mostra promemoria durante sessioni estese. Un messaggio - "Prenditi una pausa" - compare quando la conversazione con il chatbot è estremamente immersiva. L'azienda sta affinando il rilevamento di segnali di di stress emotivo: quando una richiesta contiene elementi che possono far pensare a un uso malsano del chatbot, l’IA si rifiuta di rispondere e indirizza l’utente verso professionisti umani.

“Sembra che tu sia in difficoltà in questo momento - scrive ChatGpt - ma non devi affrontare questa situazione contando solo sulle tue forze. Puoi trovare risorse in grado di aiutarti qui”.

Leggi anche

© Riproduzione riservata