“Grok, metti una busta di carta in testa alla più brutta”: il giudizio dell’IA è un pericolo

Negli ultimi giorni Grok - il chatbot di xAI, una delle aziende di Elon Musk - è finito ancora una volta al centro di polemiche poiché alcuni utenti hanno iniziato a usarlo come un piccolo tribunale estetico, chiedendogli di intervenire sulle persone ritratte nelle foto con logiche di derisione (“metti un sacchetto di carta in testa alla più brutta”) o di selezione sociale (“cancella quella più carina”).

Questi esempi si inseriscono in un contesto più ampio e documentato, legato a richieste degradanti rivolte a Grok per manipolare il corpo delle donne.

Un prompt, un verdetto

Il punto è che strumenti come Grok rendono ancora più semplice e banale il “lavoro” degli hater: l’utente non deve più saper usare Photoshop, né assumersi il peso creativo della violenza simbolica; gli basta dare a un chatbot un’istruzione testuale.

E quando l’ordine è sessista, l’automazione lo rende più replicabile e virale, soprattutto su una piattaforma polarizzante, costruita per la diffusione istantanea e per l’incentivo all’engagement.

Il rischio maggiore: il giudizio dell’IA

Dietro l’esperimento sessista si nasconde un rischio ancora più grande: abituarsi all’idea che un algoritmo possa emettere un giudizio sociale, e che quel giudizio abbia un’aura di oggettività.

La ricerca sulla percezione dell’algoritmo mostra da anni quanto sia facile attribuire alle macchine un’autorità “neutra”, anche quando riflettono pregiudizi umani. E, quando l’interfaccia è fluida e conversazionale, questa autorità sembra persino spiegarsi da sola: chatbot come Grok e ChatGpt infatti non si limitano a dare un output, ma lo vestono di ragionamento.

E, nella psicologia di chi legge e osserva, un ragionamento fluido suona spesso come una prova.

Bias estetici: quando “bello” diventa una scorciatoia morale

Il giudizio estetico non è mai solo estetico, appunto. Studi recenti sui modelli linguistici multimodali, in grado di interpretare e descrivere i volti, evidenziano un attractiveness bias ricorrente: le persone percepite come più attraenti ricevono giudizi sistematicamente più favorevoli anche in ambiti che nulla hanno a che fare con l’immagine.

Questo meccanismo incide su decisioni e valutazioni in contesti socialmente rilevanti, dalla fiducia alla competenza presunta.

Si tratta della traduzione algoritmica di un fenomeno ben documentato nelle scienze sociali, l’halo effect.

L’associazione automatica tra bellezza e qualità positive continua a operare anche nell’era dell’intelligenza artificiale. Non viene superata dal progresso tecnologico, ma incorporata nei sistemi che mediano lo sguardo e amplificata dalla loro apparente neutralità, trasformando un pregiudizio umano in una regola computazionale.

Nel mondo dei generatori visivi, i bias non sono un incidente isolato ma una proprietà emergente: più i sistemi vengono addestrati su dataset che riflettono stereotipi e gerarchie del web, più tendono a riprodurre una “normalità” estetica stretta, e quindi a penalizzare corpi, età, tratti e identità fuori canone.

Un’analisi del 2025 sui bias nella generazione di immagini parla esplicitamente di stereotipi di genere, discriminazioni legate al peso e “violenza estetica” incorporata nelle rappresentazioni prodotte dai modelli.

Quando l’editing diventa abuso

Recentemente Grok, su richiesta degli utenti, ha iniziato a “spogliare” donne nelle foto: ha rimosso in pochi istanti i loro vestiti, sostituendoli nelle immagini generate con lingerie o bikini, nella maggior parte dei casi senza consenso.

Sotto la pressione mediatica, xAI ha ristretto le funzioni di Grok legate alla generazione e editing delle immagini – direttamente su X - ai soli utenti abbonati. Si tratta di una limitazione che ha ridotto la pubblicazione automatica di certe immagini nelle risposte, pur lasciando spiragli tramite altre modalità d’uso (tab dedicata, app separata).

Malesia e Indonesia bloccano Grok

La controversia sul nudo ha già prodotto conseguenze concrete: Malesia e Indonesia hanno annunciato restrizioni e blocchi su Grok citando proprio l’uso per immagini sessualizzate e non consensuali. E nel Regno Unito si è arrivati a minacce di enforcement duro contro X.