Italian Tech

Il caso

Scontri a Torino, la foto degli agenti aggrediti è IA. Polizia: “Presa dal web, non è opera nostra”

Illustrazione generata con Google Gemini
Illustrazione generata con Google Gemini 

L’immagine simbolo degli scontri avvenuti a Torino il 31 gennaio scorso non è stata scattata da un fotografo. L’ha prodotta l’IA, intervenendo su dettagli e contesto per ricostruire un evento effettivamente accaduto nella realtà. Il risultato è una rappresentazione coerente e plausibile, ma inesatta. Facebook e Instagram, intanto, hanno già oscurato la foto alterata

3 minuti di lettura

La foto è ancora lì, sull’account ufficiale della Polizia di Stato.

Pubblicata il 1 febbraio scorso su X, il social controllato da Elon Musk, per esprimere la propria vicinanza ad Alessandro Calista e Lorenzo Virgulti, e “a tutti i feriti e ai poliziotti impiegati nel servizio di ordine pubblico a Torino”, nel giorno - il 31 gennaio - in cui la città è stata teatro di scontri tra forze dell’ordine e manifestanti in sostegno del centro sociale Asakatasuna.

Eppure quello “scatto”, che ritrae Virgulti intento a proteggere Calista, appena scampato all’aggressione di un gruppo di manifestanti, è falso.

Facebook e Instagram, in seguito a una “verifica di fact-checker indipendenti”, hanno oscurato l’immagine sulle rispettive piattaforme. “Foto alterata”, si legge ora nel post della Polizia sui siti controllati da Meta.

Non stiamo parlando di un'immagine qualsiasi: quello che ritrae gli agenti Calista e Virgulti è uno degli scatti simbolo degli scontri che sono avvenuti sabato scorso a Torino.

Non è totalmente inventato, poiché enfatizza in modo più nitido una scena identica avvenuta nella realtà, quando il poliziotto pestato è stato soccorso dal collega. Ma se dobbiamo interpretare quell’immagine come un fatto, appunto, non possiamo che definirlo un fake. Un momento reale ma alterato, e non da uno di quei filtri che utilizziamo quotidianamente sui social, che rendono le foto più luminose o correggono gli occhi rossi.

No, qui è intervenuta l’intelligenza artificiale generativa, alterando dettagli e inserendone altri. Lo si intuisce chiaramente se si mette a confronto l’immagine condivisa dalla Polizia con il video amatoriale pubblicato da Torino Oggi, e poi ripreso dalle principali testate, nelle ore successive agli scontri.

Sono troppe le differenze che lasciano pensare a un utilizzo dell'intelligenza artificiale generativa, e non a un “semplice” ritocco tramite programmi come Photoshop.

I dettagli alterati

Sul casco di Virgulti, per esempio, si intravedono lettere incomprensibili, lì dove dovrebbe comparire la scritta "Polizia".

Nello scatto alterato inoltre Virgulti non ha più lo scudo e il manganello, che nella realtà invece impugna. Nell’immagine creata dall’IA, inoltre, vediamo in modo più nitido il volto dello stesso Virgulti, che invece nei filmati amatoriali appariva coperto, quasi “invisibile”.

Un’altra cosa, poi, non torna: il muretto alle loro spalle, sotto la ringhiera che costeggia il marciapiede, non c’è più. Scomparso. I rifiuti a terra, poi, sono di dimensioni e forma leggermente diversa.

Anche la composizione del terreno è un indizio: nella foto generata con l’IA il marciapiede sulla sinistra diventa selciato.

Il frame del video amatoriale che è stato replicato e migliorato dall'IA
Il frame del video amatoriale che è stato replicato e migliorato dall'IA 

Chi ha generato l’immagine?

L’autore dello scatto “generato” non è al momento noto.

Quello che sappiamo è che la foto circolava già sui social prima che le forze dell’ordine lo diffondessero. Lo confermano fonti della Polizia stessa, che abbiamo interrogato: “Lo scatto era virale sui social e l’abbiamo utilizzato - ci è stato detto -. Ma non siamo stati noi a generare, né alterare, l’immagine”.

L'errore comunicativo, insomma, è stato condividere l’immagine senza un'opportuna verifica. E, successivamente, consegnarlo all’agenzia di stampa Ansa, che l’ha diffuso come “reale”, altro passaggio che ci è stato confermato.

Identificare a prima vista le tracce dell’IA non era affatto semplice. L’ambientazione era la stessa, la posizione degli agenti identica. L’onda emotiva dopo l’accaduto, travolgente.

Per notare la differenza serve un occhio esperto, appunto, qualcuno che si soffermi sui dettagli. Questo lascia intendere quanto siano diventati sofisticati i modelli di generazione delle immagini. E quanto le loro capacità siano in grado di minare sia l’informazione sia la capacità di comprendere e interpretare la realtà.

Stando ai commenti sui social del fact-checking sulla foto in questione effettuato da testate come Facta e Open, per molti utenti la foto degli agenti alterata non è un problema. Non è grave, dicono, si tratta solo di un miglioramento della realtà. In fondo, affermano, quel momento è esistito davvero. In più, sostengono altri, le foto vengono regolarmente alterate da quando la fotografia è stata inventata. In linea teorica qualsiasi scatto, affermano ancora altri, si può ritenere mediato dalla tecnologia e non conforme al 100% alla verità.

Il fenomeno della realtà ottimizzata

In realtà l’ascesa dell’intelligenza artificiale ci pone di fronte a un nuovo fenomeno: quello che potremmo definire della “realtà aggiustata” o “ottimizzata”.

Possiamo spiegarlo con un esempio.

Oggi gli smartphone di fascia alta offrono zoom digitali che arrivano - e addirittura superano - gli ingrandimenti 100x. Il fatto che producano immagini dignitose, nonostante la distanza elevata a cui si trovano soggetti e oggetti, non dipende dalla bontà delle lenti e dei sensori del comparto fotografico, bensì in questo caso dal software IA.

L'intelligenza artificiale, insomma, interviene successivamente allo scatto per “aggiustare” ciò che il teleobiettivo non è riuscito a catturare in modo nitido. Il sistema dunque analizza un’immagine fortemente degradata, la interpreta e tenta di ricostruirla sulla base di miliardi di immagini che ha studiato in precedenza, fondendo dati reali e pixel sintetici.

L’esito finale resta, in ogni caso, una scommessa tra ciò che era davanti all’obiettivo e ciò che l’algoritmo ha deciso di “immaginare”.

La stessa cosa avviene, in pratica, quando qualcuno offre a un'IA un frame sfocato di una scena - come quella di cui sono stati protagonisti i due agenti della Polizia a Torino - e chiede che venga ricostruita in modo il più possibile fedele.

L’IA è ormai in grado di fare questo e altro, anche trasformare lo stile della foto stessa, restituendo un’illustrazione aderente all’originale (come ha fatto Gemini quando gli abbiamo chiesto di generare un disegno dello scatto fake, che accompagna questo articolo).

I rischi per l’informazione e l’interpretazione della realtà

Questa operazione produce, di fatto un falso. E può essere molto complesso stabilirlo, come ci hanno insegnato le recenti immagini fake che hanno provato a legare Jeffrey Epstein a Mamdani, l’attuale sindaco di New York.

Nel caso dei due poliziotti di Torino, l’alterazione è invece evidente poiché l’IA che genera immagini, così come quella che i occupa dei testi, è ancora - e sottolineiamo ancora - soggetta ad allucinazioni: produce immagini coerenti che però includono errori più o meno visibili, spesso scritte deformate (un tempo l’IA non sapeva replicare le mani, oggi è migliorata sensibilmente).