Lo scorso 9 gennaio l’intelligenza artificiale Grok è salita agli onori della cronaca perché usata anche per creare immagini di nudo, avviando una polemica che è rimbalzata fino Bruxelles, spingendo la Commissione europea ad aprire un’indagine contro X (Twitter), piattaforma che integra l’IA oggetto della discordia.
Altrettanto ha fatto il procuratore generale della California Rob Bonta, che ha intimato a xAI, l’azienda che produce Grok e riconducibile al patron di X, Elon Musk, di fermare immediatamente la produzione e la diffusione di contenuti sessuali non consensuali (deepfake).
A poco più di due settimane di distanza, l’organizzazione no-profit Tech Transparency Project ha diffuso i risultati di uno studio relativo alle tante applicazioni IA che permettono, al pari di Grok, di creare immagini a sfondo sessuale al riparo da ogni forma di consenso.
La risposta di Google e Apple non si è fatta attendere ma Tech Transparency Project critica l’atteggiamento dei due giganti, ritenuto poco proattivo.
Oltre 100 app rimosse dagli Store
Lo studio ha individuato 55 app sullo store per i dispositivi Android (Google Play Store) e 47 su quello per i dispositivi con a bordo iOS (Apple App Store).
In totale, sostiene la no-profit, queste 102 applicazioni sarebbero state prelevate più di 700 milioni di volte e avrebbero generato una cifra d’affari di circa 117 milioni di dollari.
Da qui la prima critica a Google e Apple che, come sottolinea l’indagine, trattengono il 30% del ricavato generato dalle app.
Non di meno, evidenzia Tech Transparency Project, queste app cozzano contro le politiche che Apple e Google stabiliscono per salvaguardare la sicurezza degli utenti. Regole che, soprattutto nel caso di Apple, sono molto stringenti.
Grok è facile da usare ma non è responsabile di ogni male
Katie Paul, direttrice dell’organizzazione no-profit ha ribadito che “Grok è in realtà solo la punta dell'iceberg. I post venivano pubblicati su X affinché il mondo potesse vederli. Ma contenuti ancora più espliciti possono essere creati da alcune di queste altre app, ed è questo che ci ha spinto a occuparci del problema".
Le app individuate e poi rimosse erano per lo più classificate come adatte anche ai minori, accentuando la pericolosità di questi strumenti che sono facili o relativamente facili da usare.
Quello dei deepfake in generale è un problema serio e l’uso a sfondo sessuale, pure essendo gravissimo, è solo una parte del contendere.
I video e le immagini create ad arte sono in grado di influenzare l’opinione pubblica, soprattutto davanti a temi divisivi e rilevanti e, inoltre, sono strumenti usati da criminali di ogni sorta.
Se l’IA inganna se stessa: i chatbot non riconoscono la grandissima parte dei video fatti con Sora
L’incertezza dei numeri e la realtà sottostante
Misurare il fenomeno dei deepfake con in numeri può rendere l’idea della sua dimensione ma non risolve la questione.
Fermandoci all’indagine svolta da Tech Transparency Project, i numeri sembrano ballerini: un po’ perché i 700 milioni di download citati non sembrano essere supportati da riscontri oggettivi, un po’ perché Apple ha confermato di avere rimosso 24 applicazioni e non 47, mentre Google ha invece comunicato di avere rimosso “diverse applicazioni” senza fornire numeri precisi.
Numerare applicazioni e vittime serve ai censimenti e alle statistiche e agire esclusivamente contro uno o l’altro vettore serve ancora a meno.
Il 9 gennaio, tre senatori americani hanno chiesto a Google e ad Apple di rimuovere l’applicazione X (Twitter) dai rispettivi store e, benché utile ed encomiabile, questa iniziativa è a sua volta poco più di una goccia nel mare.
Grok e le app IA disponibili sugli app store sono facili da usare e sono per lo più alla portata di tutti.
Tuttavia, sotto la superficie della facilità d’uso esiste un mondo di strumenti Open source che possono essere usati per generare qualsiasi tipo di deepfake, e non tutti questi strumenti sono complessi da usare.
Inoltre, anche i tool come Stable Diffusion (e i modelli che ne derivano), pure non essendo addestrati con dataset che includono nudità, possono essere riaddestrati per fornire risultati eticamente discutibili e illegali.
La lotta per limitare questi strumenti (ce ne sono davvero tanti) è impari. Una lezione arriva dal tecnologicamente lontano 2019, quando l’app DeepNudes è stata rimossa dalla piattaforma per la condivisione di codice Github e questo non è servito a fermare il proliferare delle tante fork (copie modificate di un progetto originale) che ne hanno reso vana la rimozione.
Gli strumenti Open source tendono a richiedere settaggi e dataset particolari ma, per lo più, il loro uso non è proibitivo.
Censire l’uso che se ne fa è impossibile, anche perché molti di questi strumenti possono essere istallati su personal computer mediamente performanti i cui prezzi partono indicativamente da mille euro.
Tentare di arginare il fenomeno dei deepfake è certamente una buona cosa, ma additare questo e quel modello IA o chiedere la rimozione di decine di app non devono essere l’unico modo per contrastarlo.
/https%3A//www.repstatic.it/content/contenthub/img/2026/09/15/130855073-dd69c25b-1ca9-4077-af5c-c62f2543b012.jpg)
/https%3A//www.repstatic.it/content/contenthub/img/2026/08/17/131425149-b580bcb9-e306-4e05-9645-492498876ad4.jpg)
/https%3A//www.repstatic.it/content/contenthub/img/2026/09/10/124518905-ad8fd0a0-96a7-4cdf-a10e-d082bde37f15.jpg)