xAI, l’azienda di intelligenza artificiale di Elon Musk, ha intentato una causa legale contro Terry Wayne Harwood per aver utilizzato il chatbot Grok al fine di produrre materiale pedopornografico. Come riporta Reuters, l'uomo avrebbe aggirato i sistemi di sicurezza della piattaforma (i guardrail) per trasformare immagini lecite in contenuti espliciti e deepfake non consensuali.
Un’azione legale che rappresenta uno dei primi casi in cui uno sviluppatore di tecnologia persegue direttamente un utente per la creazione di file illegali tramite IA.
Al di là dell’illecito di tipo penale, xAI sostiene che le violazioni dei termini di servizio abbiano causato gravi danni reputazionali e rischi legali significativi. Oltre a richiedere un risarcimento economico, l’azienda mira a interdire permanentemente Harwood dall'uso dei propri servizi digitali.
Una decisione che trova spazio in un contesto di crescente monitoraggio, con xAI che dichiara di aver già segnalato migliaia di account alle autorità competenti.
Il caso segna una svolta cruciale nella definizione della responsabilità degli utenti per l'uso improprio dei sistemi generativi in un momento in cui media e istituti di ricerca si concentrano sugli abusi che le IA rendono più semplici da perpetrare e, di conseguenza, più diffusi.
Le accuse di xAI contro Terry Wayne Harwood
Terry Wayne Harwood è il nome che figura sugli atti legali depositati (documento) presso il tribunale federale del distretto settentrionale del Texas.
L'uomo, già arrestato con l'accusa di sfruttamento sessuale di minori in un procedimento penale distinto e il cui fermo è stato reso noto il 9 marzo dalla Procura generale della South Carolina, secondo la documentazione presentata dai legali di xAI, avrebbe violato sistematicamente i termini di servizio della piattaforma nel tentativo di convertire fotografie non esplicite in immagini sessualmente degradanti senza la conoscenza o il consenso dei soggetti ritratti, includendo sia adulti che minori.
L'aggiramento delle protezioni tecnologiche
La causa sostiene che l'imputato ha messo in atto un piano calcolato per raggirare le difese di Grok che sarebbero state progettate per impedire la generazione di contenuti sensibili o illegali, Harwood avrebbe utilizzato istruzioni testuali descritte come ingannevoli, capaci quindi di non essere respinte dal modello IA.
Qui occorre una riflessione. Diversi casi documentati e indagini ufficiali indicano tuttavia che, almeno in alcune versioni e funzioni del servizio, tali protezioni non sarebbero state efficaci. Ciò nulla toglie alla gravità dei fatti contestati ad Harwood, ma può essere utile a restituire un’immagine più puntuale di Grok.
Non di meno l’uomo – continua xAI – avrebbe creato molteplici account e avrebbe cercato di forzare il sistema per scopi criminali, esponendo xAI a significativi rischi legali e a un grave danno d'immagine oltre che a un pregiudizio reputazionale.
Una strategia di tolleranza zero
L'azione giudiziaria si inserisce in un contesto di pressione internazionale su Grok, precedentemente oggetto di critiche per strumenti che permettevano la manipolazione digitale di immagini senza limiti stringenti.
Elon Musk aveva già preannunciato a gennaio che chiunque avesse utilizzato lo strumento per produrre contenuti illegali avrebbe affrontato le medesime conseguenze previste per il caricamento di file proibiti sul web.
I dati relativi al 2026 diffusi da xAI confermano un orientamento restrittivo, con oltre 52mila account sospesi e più di 73mila segnalazioni inoltrate al National Center for Missing & Exploited Children (NCMEC, Centro nazionale per i minori scomparsi e sfruttati) portando ad almeno 244 arresti.
Va fatta un’ulteriore precisazione. Questi numeri sono stati indicati da xAI nella causa depositata in tribunale, non sono stati confermati da fonti terze e, dal canto suo, il NCMEC non ha ancora prodotto un report relativo al 2026.
Musk lancia Grok 4.5, il primo modello IA dell’era SpaceXAI
Le richieste di xAI e il futuro
L’azienda di Musk, oltre a chiedere al tribunale di accertare formalmente la violazione dei termini di servizio, chiede un risarcimento danni non ancora quantificato e un'inibitoria permanente che gli vieti di aprire nuovi account xAI e di usare Grok.
xAI, inoltre, vorrebbe avvalersi della clausola di manleva contenuta nei propri termini di servizio, ovvero, se una vittima della condotta di Harwood dovesse citare in giudizio l'azienda, dovrebbe essere l’uomo a farsi carico del contenzioso con tutto ciò che comporta in termini di esborsi.
La sentenza che scaturirà da questo procedimento potrebbe stabilire un precedente fondamentale per l'intera industria tecnologica, chiarendo come le aziende possano tutelarsi dall'uso dei rispettivi strumenti di IA per fini illeciti.
/https%3A//www.repstatic.it/content/contenthub/img/2026/09/24/100546754-0fd7e408-cd3c-4541-972c-bdd0ca8b0c20.jpg)
/https%3A//www.repstatic.it/content/contenthub/img/2026/09/21/224341900-44bc75d7-c69a-4815-a612-970b3c24e101.jpg)
/https%3A//www.repstatic.it/content/contenthub/img/2026/09/18/181434004-96f8ae35-7755-41af-964f-56794ffdbaa2.jpg)