L’IA di Musk sta diffondendo disinformazione sulla strage di Bondi Beach in Australia

Grok, l’Intelligenza artificiale sviluppata da xAI e integrata nella piattaforma X, sta generando risposte sbagliate sulla recente sparatoria di Bondi Beach in Australia. L’IA di Elon Musk per ore ha mischiato eventi diversi, fornendo informazioni non corrette. L'incidente, che ha colpito un festival per l'inizio di Hanukkah e causato almeno 15 vittime, è l’ennesimo test fallito per un sistema di intelligenza artificiale che continua a mostrare gravi limitazioni nella gestione di notizie sensibili e in tempo reale. Problema che non riguarda solo Grok.

Cosa sta dicendo Grok sulla strage di Bondi Beach

Il problema principale, stando alle ricostruzioni, riguarda l'identificazione di Ahmed al Ahmed, il cittadino di 43 anni diventato virale sui social media dopo aver disarmato uno degli attentatori.

Ad alcuni utenti che hanno sottoposto a Grok le immagini del suo intervento per disarmare uno degli attentatori, il chatbot ha fornito un’identificazione completamente sbagliate, dimostrando una allarmante incapacità di elaborare correttamente i contenuti visuali legati a eventi di cronaca. Diversi i casi segnalati, e per prima lo ha fatto Gizmodo: in uno Grok ha affermato che la foto che mostrava al Ahmed ferito era quella di un ostaggio israeliano catturato da Hamas il 7 ottobre; in un altro Grok risponde alle stesse richieste con dettagli totalmente inventate su presunte sparatorie contro civili in Palestina, tirando fuori informazioni irrilevanti e mescolando attivamente contesti diversi. Tuttavia quando gli utenti fanno notare l’errore, Grok si corregge e chiede scusa.

Sembra evidente che il fatto che la strage sia avvenuta per colpire uomini e donne di religione ebraica e quello che a salvare buona parte di esse sia stato un cittadino di origine araba abbia mandato l’IA in confusione. Tra profili che stanno diffondendo ricostruzioni e notizie generate da Grok ce ne sono anche diversi che parlano di sparatorie di massa avvenute anche in Italia nell’ultimo anno, contraddicendo la cronaca degli eventi.

Un’IA in confusione

La confusione del sistema di xAI non si limita a singoli errori di identificazione. Grok sta confondendo sistematicamente la sparatoria di Bondi Beach con eventi completamente non correlati, come la sparatoria avvenuta presso la Brown University nel Rhode Island, o persino con presunti video del Ciclone Alfred, un errore che il sistema ha poi affermato di aver corretto "dopo una rivalutazione". Il chatbot – raccontano diverse testate Usa – ha inizialmente diffuso diverse versioni errate, arrivando a identificare al Ahmed come "Edward Crabtree" o come un ostaggio israeliano, e solo successivamente ha riconosciuto l'identità corretta attribuendo l'errore a "post virali" o a "uno scherzo".

Un errore tecnico, con conseguenze reali

Dal punto di vista tecnico, sottolinea TechCrunch, questi errori sollevano interrogativi sulla robustezza dell'architettura di Grok nella gestione di eventi di stretta attualità, breaking news. Un problema non secondario per un’IA che vuole essere da supporto al mondo degli utenti di X.com, che Musk vorrebbe i nuovi media. Ma problemi analoghi riguardano un po’ tutte le IA al momento.

La tendenza a "soffrire di allucinazioni" informazioni o a mescolare contesti diversi è un problema noto nei Modelli linguistici di larghe dimensioni (LLM), ma la sua manifestazione su temi sensibili desta particolare preoccupazione. xAI non ha ancora rilasciato dichiarazioni ufficiali sul malfunzionamento. L'episodio si aggiunge a una serie di precedenti controversi per Grok, che a gennaio si era autodefinito "MechaHitler" e più recentemente aveva generato una risposta che contemplava un secondo Olocausto piuttosto che danneggiare lo stesso Musk.