Italian Tech

Intelligenza artificiale

Musk stoppa la generazione di immagini di Grok dopo aver scatenato le ire di mezzo mondo

di Giuditta Mosca
Musk stoppa la generazione di immagini di Grok dopo aver scatenato le ire di mezzo mondo

XAi ha deciso di limitare le funzioni di creazione di immagini di Grok ai soli utenti paganti. Una conseguenza delle critiche globali, secondo le quali, il modello IA favorirebbe la generazione di contenuti sessualmente espliciti

Aggiornato alle 3 minuti di lettura

L’accesso alle funzioni di generazione di Grok, il modello di intelligenza artificiale integrato in X (Twitter), diventa limitato ai soli utenti abbonati, ossia a quelli che sono identificabili.

Questa decisione è la risposta di Elon Musk alle critiche che piovono da ogni parte del mondo, Italia inclusa. Infatti, Grok sarebbe compartecipe nel dilagare di immagini a carattere sessuale censito e denunciato da diverse associazioni e da diversi governi. Deepfake che sarebbero largamente diffusi anche nei meandri del dark web.

Sono diverse le misure regolatorie al vaglio dell’Unione europea, del Regno Unito e di altri Paesi.

Il Garante per la privacy italiano ha diramato un comunicato per ribadire la necessità di fare attenzione alla diffusione di deepfake la quale, oltre a rappresentare un reato penale ai sensi della legge italiana sull’Intelligenza artificiale entrata in vigore il 10 ottobre del 2025, mette a rischio le libertà e i diritti fondamentali degli individui. Un avvertimento che, come specifica il Garante, non è indirizzato soltanto a Grok ma a tutti i modelli di intelligenza artificiale generativa.

Cosa è Grok e perché sta facendo discutere

Grok è un modello di Intelligenza artificiale sviluppato da xAI e integrato in X (Twitter), entrambe aziende di Elon Musk che, oltre a rispondere a domande e a fare ricerche avanzate, è anche in grado di creare ed elaborare immagini sulla scorta di input testuali.

Dal suo esordio a novembre del 2023, Grok ha attirato su di sé critiche di diverso ordine e negli ultimi giorni, così come riportato da diverse fonti, è stato ampiamente utilizzato per manipolare immagini di donne, rimuovendone digitalmente i vestiti e ponendole in situazioni sessualizzate.

Ricerche condotte dal Guardian hanno rivelato la creazione di video pornografici non consensuali e immagini che ritraggono donne ferite o uccise.

L'organizzazione no-profit AI Forensics ha individuato circa 800 contenuti di questo tipo, descrivendo alcuni video come "professionali" e "fotorealistici".

Tra i contenuti più scioccanti figurano video di donne con scritte degradanti tatuate sul corpo o minacciate con armi. Paul Bouchaud, ricercatore presso AI Forensics, ha sottolineato che il materiale prodotto tramite Grok è significativamente più esplicito rispetto ai trend osservati in precedenza sulla piattaforma.

Gli altri fenomeni osservati

L’Internet Watch Foundation, organizzazione britannica che monitora lo sfruttamento minorile online, ha scoperto materiale pedopornografico diffuso sul dark web. I contenuti ritraggono bambine tra gli 11 e i 13 anni e sarebbero per lo più stati creati mediante Grok.

Tutto materiale che rientra nella categoria C della classificazione britannica (corrispondente alla terza categoria per ordine di gravità) e che viene in alcuni casi usato per essere rielaborato restituendo risultati più estremi e afferenti alla categoria A, ovvero la più grave.

Le informazioni raccolte dalla CNN parlano di analisi utili a stabilire che, tra il 5 e il 6 gennaio (quindi nell’arco di 24 ore), Grok è stato usato per generare almeno 6.700 immagini sessualmente suggestive.

Dati che in qualche modo si sovrappongono a quelli riportati da AI Forensics, secondo cui il 53% delle immagini generate con Grok raffigura individui in abbigliamento succinto e, di queste, l’81% aveva donne come soggetti principali e, nel 2% dei casi, di età inferiore ai 18 anni.

Il peso delle pressioni internazionali

Il patron di X (Twitter) Elon Musk ha deciso così di chiudere i rubinetti, cedendo alle pressioni etiche e anche a quelle normative.

Il primo ministro del Regno Unito Keir Starmer ha ribadito che il governo non intende tollerare la diffusione di simile materiale e che ha dato pieno sostengo all’Ofcom, la locale autorità di regolamentazione delle comunicazioni.

Per arginare gli abusi, Musk ha deciso di consentire la generazione e l’editing di immagini solo agli utenti abbonati. Una misura che non convince del tutto. Infatti, la deputata laburista Jess Asato ha dichiarato che la limitazione degli accessi è un passo nella giusta direzione ma che consentire la sessualizzazione agli utenti paganti, potrebbe non placare del tutto le forme di violenza sessuale digitale.

Una preoccupazione che va valutata nel suo insieme, tenendo conto del fatto che, sottoscrivendo un abbonamento a X (Twitter), gli utenti forniscono dati anagrafici e numeri di carte di credito.

Questo aspetto, ribadito da Musk, non sembra avere convinto del tutto le autorità che, così come riportato dal Guardian, hanno minacciato sanzioni pesanti e il possibile oscuramento della piattaforma X nel Regno Unito.

Parallelamente, la Commissione europea ha ordinato a X di conservare tutti i dati relativi all’uso di Grok per tutto il 2026. Il portavoce dell’Ue Thomas Regnier ha fatto chiari riferimenti alle possibili infrazioni al Digital Services Act, la legge europea che impone alle piattaforme online obblighi di sicurezza, trasparenza e gestione dei contenuti illegali.

Cosa dice il Digital Services Act

Le misure che possono essere adottate sono diverse, a cominciare dalle sanzioni pecuniarie fino al 6% del fatturato globale se una piattaforma non rimuove o non previene la diffusione di contenuti illegali.

La cifra d’affari della piattaforma X è di circa 2,5 miliardi di dollari (dati 2024), cifra che si tradurrebbe in una multa di 150 milioni di dollari americani (129 milioni di euro).

Oltre a richiedere documenti, dati interni e audit completi, l’Ue può obbligare una piattaforma a cambiare i propri sistemi di moderazione e i processi di segnalazione delle irregolarità. Nei casi più gravi Bruxelles può limitare o sospendere alcune funzionalità offerte da una risorsa online e, laddove le violazioni fossero ritenute insanabili, potrebbe persino vietare il servizio all’interno dell’Ue.

Leggi anche

© Riproduzione riservata