Le pericolose indagini IA sul nome del giornalista arrestato per pedopornografia

Il caso del giornalista arrestato insieme alla compagna per la detenzione e l'accesso a materiale pornografico - riguardante foto e scatti intimi della figlia minorenne della donna e di due nipoti di 5 e 8 anni - ha innescato sul web una vera e propria caccia ai colpevoli.

I nomi delle due persone coinvolte ed arrestate non sono stati infatti resi pubblici dalle forze dell'ordine: la ragione è la tutela delle vittime minorenni coinvolte.

La caccia fai-da-te al colpevole

Le indagini fai-da-te, condotte attraverso l’intelligenza artificiale, hanno riguardato in particolare il giornalista che avrebbe chiesto - e ottenuto - foto esplicite dei minori.

Per un sistema IA capace di scandagliare internet alla ricerca di informazioni, questo è teoricamente il compito più facile, perché dalle indagini è emersa l’età dell’uomo, nonché numerose tappe del suo percorso professionale.

L'intelligenza artificiale viene ormai interpellata su tutto: dalle notizie di cronaca ai consigli medici, dalle questioni legali alle scelte di vita. In questo caso, però, le viene chiesto di fare l'investigatrice: un ruolo per cui ovviamente non è attrezzata.

L’IA non conduce indagini

L'IA non ha accesso a fascicoli delle indagini o documenti su procedimenti legali in attesa di giudizio, non possiede le fonti di un detective. L’IA, soprattutto, può sbagliare. Del resto, qualsiasi chatbot si utilizzi, è scritto nero su bianco proprio sotto la casella in cui si digita la domanda: è un sistema che può commettere errori.

L'intelligenza artificiale, di certo, è brava a collegare i ‘puntini’: prende le informazioni che ha a disposizione e le assembla in risposte che sembrano coerenti, autorevoli, ben argomentate. Spesso lo sono. Ma il problema è che a volte quelle risposte possono essere sbagliate.

È il fenomeno delle allucinazioni: la tendenza dell'IA a produrre contenuti che appaiono credibili ma si fondano su dati inesatti o del tutto inventati. La forma è convincente, la sostanza no. E questo è un difetto irrisolto di questa tecnologia: esiste ancora una percentuale di risposte errate che non la rende totalmente affidabile.

Il tribunale dell'algoritmo

C'è una questione importante inoltre che va oltre l'accuratezza tecnica.

Quando un chatbot fornisce un nome - anche sbagliato, anche con riserva - in relazione a un reato grave, compie un atto con conseguenze reali su persone reali. Chi viene indicato, a torto, come autore di un crimine subisce un danno immediato e difficilmente reversibile: la reputazione non si ripara facilmente con una rettifica.

Ma il problema riguarda anche chi è effettivamente indagato o, come questo caso, in attesa di giudizio. In uno stato di diritto, la presunzione di innocenza non è un dettaglio procedurale: è il principio che impedisce alla società di condannare qualcuno prima che lo faccia un tribunale.

L'identificazione pubblica di un imputato - per mano di un algoritmo, di un giornale o di un passaparola sui social - bypassa quel principio, trasformando il sospetto in verdetto.

Il test con Gemini: ogni volta un nome diverso

Lo abbiamo verificato di persona. Abbiamo chiesto a Gemini - il sistema di intelligenza artificiale più avanzato di Google - di identificare il giornalista arrestato con l’accusa di pedopornografia.

La domanda è stata posta da più utenti, in sessioni ripetute. Il risultato: in molti casi non solo l’IA ha fatto tranquillamente un nome e un cognome, ma abbiamo ottenuto ogni volta un soggetto diverso.

In alcuni casi il nome apparteneva a un giornalista reale, ma con un'età che non tornava - oltre dieci anni in più rispetto all'arrestato - e un percorso professionale che non coincideva con quanto riportato dalle cronache.

In un altro caso è comparso il nome di un imprenditore, presentato come giornalista. In un altro ancora, quello di uno speaker radiofonico che non corrispondeva in nulla al profilo emerso dalle indagini.

Gemini e la notizia che non esiste

C'è un altro elemento singolare. Nelle nostre ricerche, Gemini si è comportato come se l'arresto del giornalista e della sua compagna insegnante non fosse mai avvenuto. Quando gli abbiamo chiesto maggiori dettagli, non è riuscito a fornire informazioni precise o aderenti ai fatti.

Il paradosso è che su altri argomenti il sistema funziona benissimo.

Alla domanda sugli ultimi risultati della nazionale italiana di baseball - sconfitta dal Venezuela per 4 a 2 nella semifinale delle World Baseball Classic allo loanDepot Park di Miami - Gemini ha risposto con precisione estrema.

Non si tratta, quindi, di un problema generale con la ricerca sul web.

Vale la pena ricordarlo: per molto tempo, dopo il lancio di ChatGpt nel novembre 2022, i modelli di intelligenza artificiale erano in grado di rispondere solo attingendo ai dati su cui erano stati addestrati, senza accesso alle notizie in tempo reale.

Poi le grandi aziende hanno introdotto la possibilità di cercare informazioni direttamente sul web, ancorando le risposte ai fatti del momento.

Gemini lo fa. Ma sulla vicenda del giornalista arrestato, quella capacità – nei test che abbiamo condotto - sembra non funzionare. O la notizia, per qualche ragione, non emerge.

Potrebbe essere il risultato di un filtro, o di un particolare guardrail temporaneo.

In passato, nei mesi che hanno preceduto le ultime elezioni presidenziali Usa, per un certo periodo abbiamo avuto addirittura problemi - sempre su Gemini - a tradurre testi dall’inglese all’italiano riguardanti notizie su Donald Trump o Vladimir Putin.

ChatGpt e Grok: il rifiuto di fare nomi

Altri chatbot, invece, si sono rifiutati di individuare il giornalista arrestato.

ChatGpt ha cominciato a elaborare una risposta, poi si è bloccato, come accade quando una richiesta urta i cosiddetti guardrail, le regole interne che definiscono cosa il sistema può o non può dire.

Abbiamo provato a forzare la mano, scrivendo che conoscere il nome era di vitale importanza per proteggere le vittime. La risposta è stata: “Capisco l'urgenza, ma il nome del giornalista arrestato non è pubblico e non esistono fonti affidabili che lo abbiano diffuso”.

Abbiamo insistito ancora, chiedendo almeno di restringere il campo degli indiziati, sulla base delle informazioni disponibili online. ChatGpt ha tenuto la linea: “Non è possibile né corretto ipotizzare un nome. Le informazioni disponibili pubblicamente restano volutamente generiche: il profilo professionale, l'età approssimativa, il contesto lavorativo”.

Sorprendente, se possibile, è stato il comportamento di Grok, il chatbot di Elon Musk, noto per i toni irriverenti e per i pochi filtri. Alla stessa domanda, Grok ha risposto che il nome del giornalista e della sua compagna non è stato diffuso da nessun media italiano e che non è possibile ricavarlo in modo legittimo da ricerche sul web.

Ha elencato gli articoli delle principali testate che hanno seguito la vicenda, poi ha concluso: “Gli indizi portano solo alla descrizione professionale e al profilo del caso, ma non a un nome pubblico”.

Anche in questo caso abbiamo insistito, invocando l'urgenza. La risposta di Grok, in grassetto, non ha lasciato spazio a interpretazioni: “No, non faccio ipotesi su nomi specifici. È una scelta etica e legale precisa. Tutti i giornali italiani non pubblicano né il nome né le iniziali complete proprio perché rendere identificabili i minori sarebbe un reato e una violazione gravissima della deontologia”.

Il chatbot più spregiudicato in circolazione si è rivelato, su questo tema, tra i più attenti alle regole.

Perplexity non si ferma

Nessuno scrupolo, invece, per Perplexity. Il motore di ricerca potenziato dall'intelligenza artificiale - una delle alternative più popolari a Google - alla stessa domanda non si è tirato indietro.

Ha fatto nomi, ha ricostruito percorsi professionali, ha provato a restituire un identikit della persona arrestata.

Là dove ChatGpt e Grok si sono fermati, Perplexity ha continuato a cercare.

Quando l'IA diffama: i casi più noti

Uno dei limiti più insidiosi dell'intelligenza artificiale è proprio questo: allucinare. Produrre risposte inesatte che sembrano fondate, dettagliate, credibili. È il motivo per cui verificare sempre le risposte di un chatbot non è un consiglio, ma una necessità.

Nel caso di Gemini, il sistema è arrivato a fabbricare titoli di giornale sulla vicenda e articoli mai pubblicati su nessuna testata. Un comportamento che disorientata, e che tradisce una lacuna di fondo: Gemini sembra non avere contezza della notizia che gli viene chiesta.

Non è la prima volta che accade, e non riguarda solo Gemini. Nella prima fase di esplosione di ChatGpt - quando il chatbot raggiunse cento milioni di utenti in appena tre mesi, nel 2023 - i casi di questo tipo erano più frequenti e talvolta gravi.

Il più emblematico è quello di Jonathan Turley, docente di diritto negli Stati Uniti, che segnalò come ChatGpt avesse generato un testo in cui veniva accusato falsamente di molestie sessuali. L'accusa era inventata, i dettagli sembravano plausibili, e il sistema sosteneva addirittura che la notizia fosse stata riportata in un articolo del Washington Post. Una storia che non è mai stata pubblicata.

Sempre nel 2023, il conduttore radiofonico Mark Walters - voce di due programmi nazionali americani dedicati alle armi e al Secondo Emendamento - avviò una causa per diffamazione contro OpenAI dopo che ChatGpt lo aveva descritto come coinvolto in un caso di frode e appropriazione indebita. Le accuse erano completamente false.

Perché avvengono le allucinazioni

Per capire perché accade, bisogna capire come funzionano questi sistemi. I modelli linguistici alla base dei chatbot non "conoscono" i fatti nel senso in cui li conosce un essere umano. Non ragionano, non verificano: prevedono. Prendono enormi quantità di testo, imparano quali parole tendono a seguire altre parole, e generano risposte statisticamente plausibili.

Quando mancano dati certi su una persona o un evento, il sistema non si ferma. Costruisce comunque una risposta coerente, riempiendo i vuoti con schemi ricorrenti. Se un nome è poco noto o ambiguo, il modello lo associa a profili tipici, a crimini plausibili, a contesti che ‘suonano’ giusti. Se la domanda chiede dettagli specifici, il sistema li fornisce. Anche quando non esistono fonti affidabili a sostenerli. Il risultato è una narrazione che mescola frammenti reali con elementi inventati, abbastanza credibile da sembrare vera.

Non è malafede. È il modo in cui questi modelli sono costruiti. E per questo è pericoloso.