L'intelligenza artificiale che clona gli influencer

ROMA – Panico tra gli influencer. Aprendo i loro social alcuni si sono ritrovati un loro perfetto clone che parlava in cinese o in un’altra lingua straniera. Gli argomenti? Dalla propaganda politica alla pubblicità. Miracoli (si fa per dire) dell’intelligenza artificiale. Racconta al Financial Times l’influencer ucraina lga Loiek di aver scoperto un esercito di avatar di se stessa generati dall’AI: “Ero davvero spaventata. Ho visto la mia faccia dire qualcosa in una lingua diversa. Poi, quando l’ho tradotto, c’erano tutte cose che non avrei mai detto in vita mia, sembrava propaganda per far credere che la Russia è un grande Paese”. Il tema, insomma, non era esattamente una recensione di una crema di bellezza: “Il personaggio deepfake parlava di rafforzare il rapporto tra Russia e Cina”.

Loiek che è stata avvisata del video tarocco tarocco da alcuni dei suoi 20 mila follower su YouTube e Instagram, sospetta che la sua immagine possa essere stata utilizzata come parte di una campagna di disinformazione. I video della influencer si sono rapidamente diffusi sui siti di social media cinesi Xiaohongshu, che si traduce in “piccolo libro rosso”, e Bilibili, con un account falso che ha attirato 300 mila follower.

[[(gele.Finegil.StandardArticle2014v1) Il nuovo volto degli influencer. Ecco i talenti social su cui puntano i brand di moda]]

Dalla disinformazione alla pornografia deepfake

Questi doppelgänger sintetici vengono insomma usati per campagne di disinformazione politica ma anche per promuovere prodotti sui social media o nella pornografia deepfake. I progressi nell’intelligenza artificiale generativa hanno chiaramente ampliato il pericoloso mercato. Sono stati creati deepfake di celebrità tra cui Taylor Swift, Selena Gomez ed Elon Musk per promuovere le cose più varie, dagli utensili da cucina alle truffe crittografiche. Ma le vittime non sono solo megastar: anche creatori di contenuti meno conosciuti, e in particolare le donne, sono diventati bersaglio di abusi. Gli influencer che pubblicano regolarmente video e immagini dei loro volti su Internet sono particolarmente vulnerabili, poiché maggiore sono i video più per l’intelligenza artificiale diventa semplice creare l'imitazione.

A fronte del problema sono in contemporanea apparse realtà che tentano di usare l’intelligenza artificiale per risolvere i deepfake. Una di queste società, Ceartas, è stata fondata da Dan Purcell che a sua volta aveva lottato per rimuovere le sue immagini intime trapelate online. Ceartas – che significa giustizia in gaelico – può identificare un deepfake “in millisecondi”. Un'altra società, Alecto, sta sviluppando un prodotto in cui gli utenti possono caricare le scansioni dei propri volti sulla piattaforma, che utilizzerà quindi l'intelligenza artificiale per cercare immagini intime, comprese le versioni deepfake.

La protezione come priorità

Rintracciare nel vasto universo di internet dove si nascondono questi video può essere difficile. Influencer come Loiek e Michel Janse, un altro bersaglio dei deepfake, si affidano alle segnalazioni dei propri follower per segnalare i contenuti tarocchi. La somiglianza di Janse è stata utilizzata in un annuncio su YouTube per promuovere integratori per la disfunzione erettile. Il suo management ha segnalato l'annuncio a YouTube, che lo ha rimosso. YouTube ha affermato che la protezione degli utenti è una “massima priorità” e sta investendo molto nella sua “capacità di rilevare e rimuovere le pubblicità truffe deepfake e i falsi attori dietro di esse, come abbiamo fatto in questo caso”. I contenuti generati dall’intelligenza artificiale sono consentiti su TikTok, Instagram, X e YouTube, ma vietano i media manipolati in modo deliberatamente ingannevole, nonché le violazioni del copyright, le truffe e immagini di nudo non consensuale. La maggior parte delle app di generazione dell'intelligenza artificiale dispongono anche di linee guida sul tipo di contenuto che possono essere utilizzate per creare inediti.

L’uso legittimo degli avatar

L’ambizione delle società di avatar di intelligenza artificiale come HeyGen e rivali tra cui Synthesia e Soul Machines, al netto dei grandi progressi, è quella di creare strumenti di intelligenza artificiale economicamente vantaggiosi per uso commerciale legittimo. Inclusa la creazione di contenuti pubblicitari per i social media. Un esempio per tutti? Il mese scorso, l'imprenditrice newyorkese Becky Litvin ha sperimentato l'intelligenza artificiale per creare un post di influencer deepfake che promuoveva il suo marchio di salviette umidificate, Get Dirty. Quindi ha pubblicato il video su X, etichettato come AI, per valutare la risposta. Staremo a vedere.