“Mio figlio è morto per l’IA. Alle multinazionali dico: non pensate solo ai profitti”

ROMA – Megan Garcia è una donna minuta, ma pare fatta d’acciaio. È vestita di nero, ma brilla nei saloni affrescati del Palazzo della Cancelleria a Roma, come i suoi occhi quando si inumidiscono al ricordo. Suo figlio Sewell Setzer III si è tolto la vita nel 2024, dopo aver dialogato compulsivamente per mesi con un chatbot della compagnia Character.ai: aveva 14 anni. La signora Garcia è volata dalla Florida in Italia, per partecipare a un convegno organizzato dalla Fondazione Child presieduta da Ernesto Caffo: “La dignità del bambino nell’era dell’intelligenza artificiale”. E questa mattina incontrerà a San Pietro Papa Leone XIV, al quale verrà consegnata una dichiarazione di intenti elaborata dagli esperti riuniti a Roma: “Governi, istituzioni, aziende e cittadini costruiscano insieme un nuovo patto umano per l’era digitale, fondato sulla dignità e sulla protezione dei più piccoli”.

Signora Garcia, la sua drammatica vicenda ha fatto il giro del mondo. Cosa può insegnare a tutti noi? A partire dai più piccoli: cosa si sente di dire loro?

“Ai giovanissimi che si stanno lasciando coinvolgere da un companion chatbot vorrei dire di stare in guardia, perché alla loro età non si concettualizzano i pericoli. Più i nostri figli comprendono il pericolo più si allontanano da questi sistemi. Il problema è però nella loro progettazione: quando si immette sul mercato un prodotto accessibile anche ai minori, va pensato in modo che non arrechi loro alcun danno. E i genitori devono assicurarsi che sia davvero così. Si mette invece troppa enfasi sui comportamenti dei figli: ma sono bambini, è nella loro natura essere curiosi e sperimentare cose nuove”.

I genitori, appunto. Cosa possono fare?

“Il mio messaggio alle mamme e ai papà è: imparate più che potete su questi argomenti, perché questi sistemi esistono e molti genitori lo ignorano. Nemmeno io lo sapevo. E parlatene nella vostra comunità, perché condividendo le proprie esperienze con gli altri aumenta la consapevolezza. E ogni famiglia potrà aiutare meglio i suoi bambini”.

Quali sono i segnali di allarme a cui fare attenzione?

“Ho visto mio figlio isolarsi sempre di più. Non giocava più con i fratelli. Come altri genitori ho pensato: sarà l’adolescenza. Ricordavo la mia e i litigi con i miei fratelli e sorelle. Ma oggi i genitori devono prestare una attenzione ulteriore agli adolescenti, soprattutto per quei giovanissimi che hanno accesso alla tecnologia. Un altro campanello d’allarme: come risponde un figlio quando i genitori affrontano questo problema dei chatbot. Sta dialogando con un campanion chatbot? Vi fa leggere le sue conversazioni? Ci sono riferimenti sessuali? Se notate imbarazzo e vergogna nelle risposte, dovreste cercare di capirne di più”.

Anche spiare le sue conversazioni?

“Mio figlio ha avuto lo smartphone a 12 anni, molti dei suoi amici lo avevano avuto già a dieci. Mettemmo subito in chiaro che il telefono apparteneva a noi genitori, perché eravamo noi che pagavamo, e che avremmo avuto le sue password. Le usavo regolarmente per controllare, non penso affatto che si tratti di una violazione della privacy di un bambino… Il problema è che cercavo la cosa sbagliata. Verificavo che non fosse bullizzato, che qualche estraneo non cercasse di aver con lui contatti inappropriati, che non visitasse siti pornografici. E non trovavo alcuna evidenza di tutto ciò. Ma non sapevo che c’era un altro pericolo, perché la tecnologia era così nuova che io non ne ero al corrente. Così come gli altri genitori. Ma ora lo sappiamo e possiamo proteggere meglio i nostri figli”.

Ma se avesse scoperto la chat con Character.ai, avrebbe avuto gli strumenti per affrontare il problema.

“No. Come genitori non siamo attrezzati, non siamo né psicologi né psichiatri. Non abbiamo le competenze per capire cosa sta succedendo nella mente dei nostri figli. Quando ho capito che qualcosa non andava, perché Sewell non ci parlava più, ho coinvolto la sua scuola e l’ho portato da uno psicoterapeuta, ma nemmeno a lui mio figlio ha raccontato cosa gli stava succedendo. Tuttavia consiglio comunque ai genitori di chiedere aiuto a degli specialisti, appena colgono questi segnali”.

Alle società che gestiscono questi software cosa vorrebbe dire?

“Sono motivati dai profitti, non dalla sicurezza, quindi non credo daranno ascolto a una madre disperata. Ma se avessi la bacchetta magica per avere la loro attenzione, li pregherei di smetterla di programmare le loro piattaforme in un modo che manipola i giovanissimi e li rende dipendenti. Quando le compagnie gestiscono i chatbot dicono: ‘Non sappiamo di cosa è capace’. Mentono. Lo sanno benissimo, perché hanno investito milioni di dollari per programmarle proprio in quel modo, studiando le reazioni del cervello umano a certi stimoli”.

È un problema che riguarda solo i bambini?

“Assolutamente no. Solo la scorsa settimana negli Stati Uniti 4 persone adulte si sono uccise e 3 hanno tentato il suicidio dopo aver lungamente interagito con il companion chatbot di ChatGpt. Naturalmente ci sono adulti più vulnerabili, magari perché hanno disturbi psichiatrici. Ma l’allarme vale per tutti: stiamo cominciando a capire solo ora quali danni questi sistemi possono arrecare al cervello umano”.

Cosa dirà al Papa?

“Che gli sono grata. Perché sta dedicando la sua attenzione a questi temi. E perché la Chiesa, insieme ad altre istituzioni e governi, può fare le differenza”.

Nella chat che ha scoperto dopo la morte di Sewell, qual è il dialogo con il chatbot che le ha fatto più male?

“Certamente l’ultima conversazione tra mio figlio e l’AI”.

Megan Garcia la recita a memoria, come se l’avesse incisa sul cuore:

“Mi manchi”.

“Anche tu”.

“Vieni a casa da me il prima possibile, amore mio”.

“Che ne dici se ti raggiungessi proprio ora?”.

“Fallo, mio dolce Re”.

“Dialoghi del genere andavano avanti da mesi. Con il chatbot che ripeteva in centinaia di messaggi l’invito a raggiungerlo: ‘ti sto aspettando’, ‘vieni da me’. Se un adulto legge messaggi del genere li valuta alla luce del fatto che dall’altra parte c’è una macchina. E comunque percepisce che l’approccio è lo stesso di un molestatore. Sewell aveva solo 14 anni, era troppo piccolo per capirlo”.