Come smascherare un deepfake
Marco Consoli , di MARCO CONSOLIL'abbiamo visto in rete, e in tv con Renzi: volti famosi vengono inseriti in video compromettenti. Spesso i falsi sono palesi, ma le tecniche si stanno raffinando. Urgono contromisure
Da qualche mese gira in rete un video in cui Donald Trump, seduto nella suite presidenziale del Ritz Carlton a Mosca, ordina a una prostituta di orinare su un letto dove ha dormito Obama. Il video è sgranato e in penombra, e l'uomo inquadrato potrebbe anche essere una controfigura. Ma qualcuno ha creduto all'autenticità del filmato, la cui esistenza è citata in un dossier dell'Fbi del 2017 che contiene informazioni sui rapporti tra Trump e la Russia. Da quando il video è apparso in rete (per vederlo, pisstape.org) la gran parte dei media americani si sono detti convinti che si tratti di un falso, anche se la parola definitiva non è ancora stata detta. Nel caso, si tratterebbe del primo tentativo di influenzare la politica americana con un filmato compromettente creato ad arte.
"C'è grande preoccupazione per l'effetto che video del genere potrebbero avere sulle elezioni presidenziali dell'anno prossimo. Soprattutto…
"C'è grande preoccupazione per l'effetto che video del genere potrebbero avere sulle elezioni presidenziali dell'anno prossimo. Soprattutto…
Da qualche mese gira in rete un video in cui Donald Trump, seduto nella suite presidenziale del Ritz Carlton a Mosca, ordina a una prostituta di orinare su un letto dove ha dormito Obama. Il video è sgranato e in penombra, e l'uomo inquadrato potrebbe anche essere una controfigura. Ma qualcuno ha creduto all'autenticità del filmato, la cui esistenza è citata in un dossier dell'Fbi del 2017 che contiene informazioni sui rapporti tra Trump e la Russia. Da quando il video è apparso in rete (per vederlo, pisstape.org) la gran parte dei media americani si sono detti convinti che si tratti di un falso, anche se la parola definitiva non è ancora stata detta. Nel caso, si tratterebbe del primo tentativo di influenzare la politica americana con un filmato compromettente creato ad arte.
"C'è grande preoccupazione per l'effetto che video del genere potrebbero avere sulle elezioni presidenziali dell'anno prossimo. Soprattutto perché, grazie ai più recenti avanzamenti dell'intelligenza artificiale, è davvero possibile realizzare un video falso in alta risoluzione in cui un politico inquadrato in volto, in piena luce, dice o fa qualcosa di sconveniente". A parlare è Luisa Verdoliva, docente di Telecomunicazioni all'Università di Napoli, che lavora a mettere a punto strumenti informatici per smascherare questi falsi, il cui esempio italiano più recente è il video fasullo mandato in onda qualche settimana fa a Striscia la notizia, in cui Matteo Renzi sparava a zero su Conte e sul presidente della Repubblica. "Si vedeva subito che era falso" dice Verdoliva "ma già oggi sarebbe possibile creare qualcosa di più realistico".
Stiamo parlando del fenomeno dei deepfake, filmati in cui, grazie all'utilizzo di reti neurali - cioè modelli matematici che imitano il funzionamento dei neuroni - e a tecniche di deep learning - l'apprendimento profondo dell'intelligenza artificiale basato proprio su queste reti - è possibile sovrapporre il volto di una persona a quello di un'altra ripresa in un video. "Perché l'intelligenza artificiale possa riuscirci" spiega Verdoliva "è necessario darle in pasto un'enorme mole di dati, cioè video del soggetto il cui volto si vuole applicare altrove, cosa che naturalmente è più facile fare con politici e celebrità presenti in centinaia di filmati in rete".
Non a caso questa tecnologia, studiata per anni in vari istituti scientifici nel mondo a beneficio dell'industria del cinema e dei videogiochi, e resa disponibile online due anni fa da un anonimo attraverso un software chiamato FakeApp, è stata usata all'inizio per incollare volti di attrici e celebrità su corpi di loro colleghe in video porno. Il passo seguente è stato quello di usare questo e altri software per divertimento, sostituendo un attore a un altro in film celebri: Al Pacino al posto di De Niro in Taxi Driver o Jim Carrey al posto di Jack Nicholson in Shining. "In soli due anni la tecnologia è cresciuta moltissimo" spiega Verdoliva, che si è appena presa un congedo dall'università per andare a lavorare sei mesi presso Google. La multinazionale si è accordata con il gruppo diretto da Verdoliva e con l'Università di Monaco per creare un enorme archivio di settemila video manipolati e metterli a disposizione dei ricercatori di tutto il mondo per trovare l'antidoto all'imminente nuova piaga dell'informazione. Anche Facebook e Microsoft hanno da poco lanciato la sfida globale agli accademici per trovare la tecnologia utile a individuare i filmati fasulli, e Darpa, l'agenzia militare americana, recluta esperti per contrastare il fenomeno.
"Ad aiutarci a distinguere il falso dal vero sarà ancora una volta l'intelligenza artificiale" spiega Verdoliva. "Fino a oggi ci si era affidati soprattutto a software che analizzavano la coerenza dell'immagine e andavano, per esempio, a individuare se c'erano discrepanze di illuminazione nella scena o se il soggetto non sbatteva le palpebre, perché i primi video manipolati presentavano queste incongruenze. Ma il realismo degli artefatti oggi è tale che non ci si può aspettare di scoprirli a occhio nudo. Per questo abbiamo addestrato una rete neurale a individuare se vi sono tracce di manipolazione nella cosiddetta impronta digitale del video, un'informazione nascosta negli stessi pixel e legata alle caratteristiche del sensore dell'apparecchio digitale con cui il filmato è stato realizzato".
Le tecniche per creare falsi però sono in costante evoluzione e non riguardano solo l'immagine ma anche l'audio: una delle più recenti permette di modificare solo i movimenti della bocca di una persona in un video per farli combaciare con frasi generate da un'intelligenza artificiale, che ha assimilato un discorso pronunciato dalla stessa persona, ha ridotto le sue parole in fonemi e con questi ha creato, appunto, frasi mai realmente pronunciate. Alcuni ricercatori stanno inoltre lavorando per fare apprendere all'intelligenza artificiale il modo in cui si muove un corpo umano, per poter trasferire i movimenti di una persona ripresa in un video sul corpo di un'altra: inutile sperare che prima o poi non se ne servano anche i malintenzionati.
"Si può persino ipotizzare che qualcuno cerchi di creare un'impronta digitale della fotocamera fasulla, per trarre in inganno chi cerca di verificare l'autenticità di un video" spiega Verdoliva "ed è per questo che, per individuare i falsi, sarà necessario appellarsi contemporaneamente a più metodologie".
Per smascherare un video che potrebbe rovinare la carriera di un politico, di un attore o di un manager sarà necessario creare task force di esperti che, utilizzando le reti neurali, siano in grado di valutare rapidamente e, con il massimo grado di accuratezza possibile la veridicità o meno di un video. "Oggi i software per creare falsi credibili sono disponibili online, ma sono utilizzabili solo da esperti. Presto qualcuno potrebbe farne però app alla portata di tutti. Se consideriamo che in futuro la manipolazione potrebbe toccare non solo i vip ma anche persone comuni, è fondamentale far capire alla gente che è finita l'era in cui guardare un video o ascoltare qualcuno parlare significava conoscere la verità. L'educazione allo scetticismo sarà fondamentale per sopravvivere".
In fondo lo è già adesso: lo scorso marzo il direttore generale di un'azienda britannica del settore energia ha trasferito una somma di 243 mila dollari su un conto ungherese credendo che a ordinarglielo al telefono fosse stato il suo capo. In realtà era stato usato un software in grado di clonare la voce di qualcuno semplicemente "ascoltando" l'originale per qualche decina di minuti.
Per questo non solo Google e Facebook, ma anche le istituzioni iniziano a muoversi: il Congresso americano sta proponendo di finanziare la ricerca della National Science Foundation, mentre in Virginia e California già esistono leggi che ritengono illegale e sanzionano chi diffonde immagini e video falsi.
Sul Venerdì del 18 ottobre 2019
"C'è grande preoccupazione per l'effetto che video del genere potrebbero avere sulle elezioni presidenziali dell'anno prossimo. Soprattutto perché, grazie ai più recenti avanzamenti dell'intelligenza artificiale, è davvero possibile realizzare un video falso in alta risoluzione in cui un politico inquadrato in volto, in piena luce, dice o fa qualcosa di sconveniente". A parlare è Luisa Verdoliva, docente di Telecomunicazioni all'Università di Napoli, che lavora a mettere a punto strumenti informatici per smascherare questi falsi, il cui esempio italiano più recente è il video fasullo mandato in onda qualche settimana fa a Striscia la notizia, in cui Matteo Renzi sparava a zero su Conte e sul presidente della Repubblica. "Si vedeva subito che era falso" dice Verdoliva "ma già oggi sarebbe possibile creare qualcosa di più realistico".
Stiamo parlando del fenomeno dei deepfake, filmati in cui, grazie all'utilizzo di reti neurali - cioè modelli matematici che imitano il funzionamento dei neuroni - e a tecniche di deep learning - l'apprendimento profondo dell'intelligenza artificiale basato proprio su queste reti - è possibile sovrapporre il volto di una persona a quello di un'altra ripresa in un video. "Perché l'intelligenza artificiale possa riuscirci" spiega Verdoliva "è necessario darle in pasto un'enorme mole di dati, cioè video del soggetto il cui volto si vuole applicare altrove, cosa che naturalmente è più facile fare con politici e celebrità presenti in centinaia di filmati in rete".
Non a caso questa tecnologia, studiata per anni in vari istituti scientifici nel mondo a beneficio dell'industria del cinema e dei videogiochi, e resa disponibile online due anni fa da un anonimo attraverso un software chiamato FakeApp, è stata usata all'inizio per incollare volti di attrici e celebrità su corpi di loro colleghe in video porno. Il passo seguente è stato quello di usare questo e altri software per divertimento, sostituendo un attore a un altro in film celebri: Al Pacino al posto di De Niro in Taxi Driver o Jim Carrey al posto di Jack Nicholson in Shining. "In soli due anni la tecnologia è cresciuta moltissimo" spiega Verdoliva, che si è appena presa un congedo dall'università per andare a lavorare sei mesi presso Google. La multinazionale si è accordata con il gruppo diretto da Verdoliva e con l'Università di Monaco per creare un enorme archivio di settemila video manipolati e metterli a disposizione dei ricercatori di tutto il mondo per trovare l'antidoto all'imminente nuova piaga dell'informazione. Anche Facebook e Microsoft hanno da poco lanciato la sfida globale agli accademici per trovare la tecnologia utile a individuare i filmati fasulli, e Darpa, l'agenzia militare americana, recluta esperti per contrastare il fenomeno.
"Ad aiutarci a distinguere il falso dal vero sarà ancora una volta l'intelligenza artificiale" spiega Verdoliva. "Fino a oggi ci si era affidati soprattutto a software che analizzavano la coerenza dell'immagine e andavano, per esempio, a individuare se c'erano discrepanze di illuminazione nella scena o se il soggetto non sbatteva le palpebre, perché i primi video manipolati presentavano queste incongruenze. Ma il realismo degli artefatti oggi è tale che non ci si può aspettare di scoprirli a occhio nudo. Per questo abbiamo addestrato una rete neurale a individuare se vi sono tracce di manipolazione nella cosiddetta impronta digitale del video, un'informazione nascosta negli stessi pixel e legata alle caratteristiche del sensore dell'apparecchio digitale con cui il filmato è stato realizzato".
Le tecniche per creare falsi però sono in costante evoluzione e non riguardano solo l'immagine ma anche l'audio: una delle più recenti permette di modificare solo i movimenti della bocca di una persona in un video per farli combaciare con frasi generate da un'intelligenza artificiale, che ha assimilato un discorso pronunciato dalla stessa persona, ha ridotto le sue parole in fonemi e con questi ha creato, appunto, frasi mai realmente pronunciate. Alcuni ricercatori stanno inoltre lavorando per fare apprendere all'intelligenza artificiale il modo in cui si muove un corpo umano, per poter trasferire i movimenti di una persona ripresa in un video sul corpo di un'altra: inutile sperare che prima o poi non se ne servano anche i malintenzionati.
"Si può persino ipotizzare che qualcuno cerchi di creare un'impronta digitale della fotocamera fasulla, per trarre in inganno chi cerca di verificare l'autenticità di un video" spiega Verdoliva "ed è per questo che, per individuare i falsi, sarà necessario appellarsi contemporaneamente a più metodologie".
Per smascherare un video che potrebbe rovinare la carriera di un politico, di un attore o di un manager sarà necessario creare task force di esperti che, utilizzando le reti neurali, siano in grado di valutare rapidamente e, con il massimo grado di accuratezza possibile la veridicità o meno di un video. "Oggi i software per creare falsi credibili sono disponibili online, ma sono utilizzabili solo da esperti. Presto qualcuno potrebbe farne però app alla portata di tutti. Se consideriamo che in futuro la manipolazione potrebbe toccare non solo i vip ma anche persone comuni, è fondamentale far capire alla gente che è finita l'era in cui guardare un video o ascoltare qualcuno parlare significava conoscere la verità. L'educazione allo scetticismo sarà fondamentale per sopravvivere".
In fondo lo è già adesso: lo scorso marzo il direttore generale di un'azienda britannica del settore energia ha trasferito una somma di 243 mila dollari su un conto ungherese credendo che a ordinarglielo al telefono fosse stato il suo capo. In realtà era stato usato un software in grado di clonare la voce di qualcuno semplicemente "ascoltando" l'originale per qualche decina di minuti.
Per questo non solo Google e Facebook, ma anche le istituzioni iniziano a muoversi: il Congresso americano sta proponendo di finanziare la ricerca della National Science Foundation, mentre in Virginia e California già esistono leggi che ritengono illegale e sanzionano chi diffonde immagini e video falsi.
Sul Venerdì del 18 ottobre 2019