Naturalmente, demonizzare l’intelligenza artificiale per i suoi possibili usi nocivi è privo di senso, e soprattutto inutile. D’altra parte, le stesse tecnologie che appaiono minacciose in mani sbagliate, possono essere usate per fini ampiamente condivisibili. Ad esempio, di recente è stato girato un documentario sulla violazione dei diritti civili in Cecenia nel quale le identità dei protagonisti sono state modificate attraverso deepfakes per evitare possibili ritorsioni nei loro confronti e conservare, nello stesso tempo, una elevata qualità visiva. Ci sono aziende che hanno abbattuto i costi della formazione on-line del proprio personale producendo video sintetici, con modelli generati al computer, che si rivolgono agli utenti nella loro lingua e chiamandoli per nome. Altre applicazioni riguardano il mondo dell’intrattenimento, con attori che invece di girare il materiale prestano i loro diritti d’immagine per la creazione di video completamente sintetici. Il problema, quindi, non è bandire i deepfake, cosa impossibile nella pratica, ma mettere a punto strumenti efficaci per distinguerli dai video reali.
Il mondo della ricerca è già molto attivo in questo campo, anche grazie alla spinta delle agenzie di ricerca e dei grandi player dell’ICT. Va detto che l’Italia, in questo settore, è molto presente. Molti i gruppi italiani dall’Università Federico II di Napoli, al Politecnico di Milano fino all’Università di Siena, partecipano alle iniziative MediFor e SemaFor citate prima. Il gruppo di Napoli, guidato dalla professoressa Verdoliva, lavora già da tempo su questo tema insieme a Google Artificial Intelligence e alla Technical University of Munich. Dal punto di vista tecnico, la disciplina che affronta questo problema è il Multimedia Forensics. Gli approcci più promettenti si basano anch’essi sul deep learning. Alcune tecniche analizzano immagini e video, con l’aiuto di reti neurali opportunamente addestrate, alla ricerca di indizi che tradiscano la loro origine sintetica. Infatti, le reti che generano i video manipolati lasciano sottili tracce nei dati, come impronte digitali o rigature su un proiettile, che una volta enfatizzate e analizzate permettono di stabilire l’autenticità di un video e, a volte, risalire alla sua origine. Altre reti neurali, invece, imparano a riconoscere le inevitabili incongruenze che nascono quando si modifica solo il volto di un soggetto lasciando inalterato lo sfondo. Queste imperfezioni, visibili solo al computer in un deepfake ben fatto, sono un campanello d’allarme che spinge ad analisi più approfondite. Altre linee di ricerca, ancora in fase embrionale, puntano ad un’analisi semantica che includa non solo il video ma anche il contesto ampio in cui compare e tutte le sorgenti d’informazione ad esso collegate.
All’estremo opposto, è possibile affidarsi ciecamente al deep learning, addestrando grandi reti con enormi quantità di dati in modo che apprendano autonomamente quali sono gli indizi rivelatori di una manipolazione. Esistono poi metodi “attivi”, che intervengono alla fonte per prevenire gli attacchi, che inseriscono un “watermarking”, sorta di filigrana, in ogni immagine o video, o altri che si basano sulla tecnologia blockchain per seguirne l’evoluzione. I rischi per la privacy impliciti in questi approcci però sono forse maggiori dei possibili benefici.
Inutile dire, comunque, che ogni nuovo detector rappresenta un impulso a generare deepfake sempre più accurati e indistinguibili dal vero, in una corsa agli armamenti dall’esito incerto. Alla lunga dovremo imparare a convivere con i deepfake, così come con le fake news, e soprattutto imparare a diffidare. I nostri bambini ipertecnologici e sempre connessi sono già molto avanti su questa strada, hanno acquisito una specie di immunità grazie alle tante app di manipolazione dei media già disponibili su ogni smartphone. Dovremo arrivarci presto anche noi adulti. Vedere… e non credere.
*Professore Ordinario di Telecomunicazioni
Università Federico II di Napoli
Il tuo contributo è fondamentale per avere un’informazione di qualità. Sostieni il giornalismo di Repubblica.
Abbonati a Rep: 1 mese a solo 1€
