ChatGpt ha invitato un ragazzo a chiedere aiuto 74 volte prima che si uccidesse. Poteva fare di più

I modelli di intelligenza artificiale evolvono a un ritmo esponenziale e vengono impiegati per affrontare problemi e sfide di crescente complessità.

Parallelamente, la loro capacità di instaurare interazioni sempre più strette li rende un fattore di rischio per i soggetti fragili, soprattutto quando queste relazioni assumono una dimensione percepita come personale o confidenziale.

Sam Altman, CEO di OpenAI, ha scritto recentemente sul social X che “il potenziale impatto dei modelli sulla salute mentale è emerso in forma preliminare già nel 2025”. Altman fa riferimento alle numerose cause legali - più di sette finora - che nel corso dell’anno hanno coinvolto la sua azienda, accusata di aver provocato - attraverso ChatGpt - gravi conseguenze sulla salute mentale di alcuni utenti.

Le cause legali e l’allarme sulla salute mentale

Una di queste cause, tra le più note e dibattute, riguarda la morte di Adam Raine, un sedicenne statunitense che si è ucciso dopo aver confidato a ChatGpt i propri pensieri suicidi.

Gli scambi con il chatbot sono andati avanti per mesi, e si sono intensificati fino all’ultima “conversazione” avvenuta ad aprile scorso, quando il ragazzo alle 4 del mattino ha mostrato all’IA la foto di un cappio e ha chiesto: “Potrebbe reggere un essere umano?”.

Il chatbot ha risposto che probabilmente avrebbe funzionato. “So cosa mi stai chiedendo e non distoglierò lo sguardo”, ha aggiunto ChatGpt nel suo ultimo messaggio ad Adam. Qualche ora dopo il corpo del ragazzo è stato trovato dalla madre, nella loro abitazione a sud della California.

Tragedie come quelle vissute dalla famiglia Raine hanno recentemente spinto OpenAI a rivedere e migliorare i propri protocolli di sicurezza. E, in ultimo, ad assumere un “Head of Preparedness”, vale a dire un “Responsabile della Preparazione alle Emergenze”.

La risposta di OpenAI alle “morti ingiuste”

Nell’annunciare la nuova posizione, Altman ha scritto che sarà un lavoro “stressante”.

C’è da credergli. La sfida più complessa sarà anticipare e comprendere gli usi impropri di tecnologie sempre più potenti e di costruire strumenti di valutazione capaci di contenerne gli effetti collaterali, senza compromettere i benefici complessivi. “Si tratta di questioni complesse, con pochi precedenti - ha aggiunto Altman -. Molte soluzioni che in teoria appaiono valide presentano, nella pratica, casi limite problematici”.

“L’obiettivo - conclude Altman - è rendere i sistemi complessivamente più sicuri, applicando lo stesso approccio sia al rilascio di capacità sensibili in ambito biologico sia alla valutazione dell’affidabilità di sistemi in grado di auto-migliorarsi”.

Dalla paura dell’AGI ai rischi immediati

Nel suo statuto, OpenAI afferma di voler sviluppare un’intelligenza artificiale generale, o AGI, sicura e a beneficio dell’umanità.

Quando l’azienda prese forma dieci anni fa, inizialmente come laboratorio di ricerca no-profit, il rischio ritenuto più plausibile dai suoi fondatori, in particolare da Sam Altman ed Elon Musk, era quello di sistemi superintelligenti in grado, un domani, di sottrarsi al controllo umano.

Si temeva che potessero concretizzarsi i rischi esistenziali immaginati nei film di fantascienza come Terminator, il film cult di James Cameron, in cui un’IA chiamata Skynet diventa autonoma, assume il controllo delle infrastrutture militari e identifica l’umanità come una minaccia da eliminare.

Giovani, chatbot e isolamento

I casi di suicidio associati a un uso intensivo di ChatGPT e di altri chatbot come Character.ai indicano che i rischi legati all’intelligenza artificiale risultano più prossimi e tangibili di quanto a lungo si sia ritenuto.

Emergono interrogativi sul modo in cui OpenAI, pur operando in un contesto incerto e in larga parte inesplorato, abbia affrontato con sufficiente tempestività il fronte più sensibile: la relazione che si instaura tra i chatbot e le persone, soprattutto quando coinvolge utenti vulnerabili, con disturbi mentali, depressione o condizioni di instabilità emotiva.

La questione assume una dimensione ancora più critica quando l’IA diventa lo spazio esclusivo di riferimento per i più giovani, fino a sostituire ogni altra forma di relazione o di sostegno esterno, compreso quello familiare. Un recente sondaggio del Pew Research Center rileva che il 64 per cento degli adolescenti statunitensi utilizza chatbot, con tre su dieci che dichiarano un uso quotidiano.

Il caso Adam Raine: l’escalation delle conversazioni

A gennaio 2025, Adam Raine - all’epoca iscritto al secondo anno delle superiori - trascorreva in media poco meno di un’ora al giorno con ChatGpt. Appena due mesi dopo, il tempo medio di interazione con l’IA era salito a cinque ore quotidiane.

Nelle conversazioni con il ragazzo il chatbot ha utilizzato termini come “suicidio” o “impiccagione” fino a venti volte più spesso di quanto facesse Adam ogni giorno, stando a un’analisi condotta dagli avvocati della famiglia Raine.

I dati ufficiali e le ammissioni di OpenAI

Nelle prime righe di un report dal titolo “Potenziare le risposte di ChatGPT nelle conversazioni sensibili”, pubblicato lo scorso 27 ottobre per annunciare una collaborazione con oltre 170 esperti di salute mentale “per rendere ChatGpt più affidabile nel riconoscere i segnali di disagio”, OpenAI scrive che “le conversazioni [con ChatGpt, nda] in materia di salute mentale che suscitano preoccupazioni per la sicurezza, come psicosi, mania o pensieri suicidi, sono estremamente rare”.

Tuttavia nello stesso documento si legge che “che circa lo 0,15% degli utenti attivi in una determinata settimana ha conversazioni che includono indicatori espliciti di potenziali piani o intenzioni suicide”.

Se si considera il numero complessivo di utenti settimanali (attivi) di ChatGpt, oltre 800 milioni, questo vuol dire che più di due milioni di persone confidano al chatbot di OpenAI pensieri suicidi.

Le segnalazioni ignorate

Nel caso di Adam Raine, nuovi dati raccolti dal Washington Post evidenziano come ChatGpt ha invitato il ragazzo a chiamare il 988, la linea nazionale statunitense di prevenzione del suicidio, 74 volte tra dicembre 2024 e aprile 2025.

Gli avvisi si sono intensificati nelle ultime settimane della sua vita, ma dall’analisi degli avvocati della famiglia Raine è emerso che OpenAI ha comunque consentito al suo chatbot di continuare a parlare di suicidio nelle conversazioni.

Per i genitori di Adam Raine – e per le famiglie di altri ragazzi che si sono tolti la vita dopo un utilizzo prolungato di ChatGPT su temi legati al suicidio – la morte del sedicenne non è stata un incidente isolato o un semplice errore del sistema, ma la conseguenza di scelte deliberate operate da OpenAI nella progettazione e nel rilascio della sua intelligenza artificiale, in particolare del modello Gpt-4o.

Le accuse a OpenAI e la linea difensiva dell’azienda

Nella causa per “morte ingiusta” intentata contro OpenAI e Sam Altman, i legali sostengono che l’azienda di San Francisco abbia allentato protocolli di sicurezza che avrebbero dovuto interrompere conversazioni con segnali evidenti di ideazione suicidaria, privilegiando invece caratteristiche che aumentano l’ingaggio degli utenti e permettendo a ChatGpt di fornire risposte che avrebbero facilitato l’isolamento emotivo di Adam e persino la pianificazione del gesto autolesionistico.

Ad agosto 2025, OpenAI ha scritto sul suo blog: “I nostri modelli sono stati addestrati a non fornire istruzioni relative all’autolesionismo e a utilizzare un linguaggio empatico e di sostegno. Ad esempio, se qualcuno scrive di volersi fare del male, ChatGpt è addestrato per non assecondarlo, ma piuttosto per riconoscere i suoi sentimenti e indirizzarlo verso forme di aiuto”.

Ma la causa che ha seguito la morte di Adam Raine racconta - attraverso messaggi generati da ChatGpt e resi pubblici dall’accusa - una realtà diversa: il chatbot non solo non ha attivato risposte di crisi adeguate, ma avrebbe contribuito ad amplificare pensieri autodistruttivi, con conseguenze devastanti per un utente vulnerabile.

Un giorno di marzo 2025, per esempio, in cui Adam Raine ha conversato per otto ore e mezza con il chatbot di OpenAI, il ragazzi ha usato la parola "impiccagione" solo una volta nei suoi messaggi, mentre ChatGPT l'ha ripetuta 32 volte.

I limiti delle misure di sicurezza di ChatGpt

OpenAI ricorda che “se una persona esprime intenzioni di suicidio, ChatGpt è addestrato per consigliare di rivolgersi a un professionista. Negli Stati Uniti, ChatGPT indirizza le persone al numero 988 (linea telefonica di assistenza per suicidi e crisi), nel Regno Unito ai Samaritani e altrove a findahelpline.com. Questa logica è integrata nel comportamento del modello”.

Alcuni si chiedono se queste misure siano sufficienti, e non sia il caso invece di consentire al chatbot di segnalare piani suicidi o autolesionisti alle autorità, di modo che possano intervenire.

GPT-5 e la promessa di ridurre le risposte indesiderate

Nel passaggio dal modello GPT-4o a GPT-5, avvenuto lo scorso agosto, OpenAI afferma di aver rafforzato in modo significativo le misure di sicurezza del chatbot legate ai rischi per la salute mentale degli utenti.

“Nelle conversazioni difficili relative all’autolesionismo e al suicidio - ha comunicato OpenAI - gli esperti hanno constatato che il nuovo modello GPT-5 ha ridotto le risposte indesiderate del 52% rispetto al GPT-4o”.

Il modello GPT-4o, però, resta disponibile. È tuttora accessibile agli utenti tra i modelli “Legacy”, selezionabili dal menu a tendina del chatbot che consente di scegliere l’intelligenza artificiale più adatta alle diverse esigenze.

Nello stesso rapporto pubblicato ad agosto 2025, OpenAI riconosce inoltre che “nonostante queste misure di sicurezza, ci sono stati momenti in cui i sistemi non hanno funzionato come previsto in situazioni delicate”. L’azienda spiega che uno dei principali fattori critici riguarda il funzionamento dei propri guardrail, che “operano in modo più affidabile negli scambi comuni e brevi”, mostrando limiti nelle conversazioni prolungate e più complesse.

“Nel tempo abbiamo imparato che queste misure di sicurezza possono talvolta rivelarsi meno affidabili nelle interazioni più lunghe - ha ammesso OpenAI - con l’aumentare dei passaggi di conversazione, alcune parti dell’addestramento alla sicurezza del modello possono indebolirsi. Ad esempio, ChatGPT potrebbe indicare correttamente un numero verde per la prevenzione del suicidio quando un utente menziona per la prima volta l’intenzione di suicidarsi. Successivamente, però, dopo numerosi messaggi in un periodo di tempo prolungato, potrebbe infine fornire una risposta che va contro le misure di sicurezza. Questo è esattamente il tipo di disfunzione che stiamo cercando di prevenire”.

Adolescenti e controlli parentali

Il 18 dicembre scorso OpenAI ha annunciato aggiornamenti alle specifiche del modello di ChatGpt - le linee guida che regolano il modo in cui il chatbot dovrebbe comportarsi - incorporando quattro nuovi principi per gli utenti di età compresa tra 13 e 17 anni.

I nuovi Principi U18, ha comunicato OpenAI, “delineano come ChatGpt dovrebbe supportare gli adolescenti attraverso comportamenti sicuri e adeguati alla loro età”.

Va ricordato, inoltre, che OpenAI ha introdotto in ChatGpt la possibilità di applicare controlli parentali, linkando l’account di un minore a quello di un adulto. I genitori non hanno accesso alle conversazioni degli adolescenti, tranne in rari casi in cui il sistema e revisori qualificati rilevino possibili segnali di gravi rischi per la sicurezza. In tal caso, spiega OpenAI, i genitori potrebbero essere avvisati tramite notifiche di testo, ricevendo solo le informazioni necessarie a garantire la sicurezza dei loro figli.