La battaglia tra gli algoritmi sul riconoscimento facciale

ALGORITMO contro algoritmo. È la battaglia che si prospetta tra i sistemi di riconoscimento facciale e un nuovo strumento messo a punto dai ricercatori del Sand Lab dell’Università di Chicago, di nome Fawkes. Un software che si propone di proteggerci da una tecnologia sempre più pervasiva ed evitare che, sfruttando le nostre foto postate sui social network, vengano costruiti dei modelli in grado di riconoscerci ovunque andiamo.

Le nostre foto sui social che allenano gli algoritmi

Per capirne l'importanza basta ricordarsi di MegaFace: un database contenente quattro milioni di foto di 672 mila persone caricate sulla piattaforma Flickr e utilizzato per allenare gli algoritmi dei colossi della tecnologia a identificare le persone in base alle immagini dei loro volti. Istantanee che sono finite nelle grinfie dei big del calibro di Amazon, Google e Intel senza il consenso né tantomeno la consapevolezza degli interessati. Ma non è l'unico caso. Un altro esempio arriva da Clearview AI, una piccola azienda che ha scaricato tre miliardi di immagini da siti come Facebook, YouTube e Venmo, per sviluppare modelli di riconoscimento facciale per milioni di persone. E proprio Clearview, dimostrando “quanto sia facile costruire strumenti invasivi”, sembra aver convinto gli scienziati dell’ateneo statunitense a passare al contrattacco. “Crediamo che, molto probabilmente, Clearview sia solo la punta (piuttosto grande) dell’iceberg”, scrivono i ricercatori sul sito del progetto. “Se riuscissimo a ridurre l'accuratezza di questi modelli in modo da renderli inaffidabili, o a costringere i loro proprietari a pagare a persona un costo significativo per mantenerne l'accuratezza, allora avremmo avuto successo".

Come funziona Fawkes

Così hanno sviluppato un algoritmo chiamato Fawkes, in omaggio alla maschera del cospiratore inglese Guy Fawkes usata dal protagonista del fumetto V per Vendetta. Usarlo è semplice: basta scaricare il software, disponibile sia per Mac sia per Windows, e scegliere il selfie che verrà in un certo senso mascherato. In pratica: quando un sistema di riconoscimento facciale viene addestrato a riconoscerci comparando due nostre foto (come quella del nostro profilo Facebook e quella della nostra carta d'identità), non lo fa solo attraverso il colore dei capelli o la geometria del volto, ma anche grazie ai pixel che compongono quella determinata immagine. Fawkes interviene su quei pixel, alterandoli. Cambiamenti più o meno impercettibili a occhio nudo, come abbiamo potuto testare su alcuni nostri scatti, ma in grado di confondere gli algoritmi. Secondo quanto riportano i ricercatori, la tecnica si è rivelata efficace al 100 per cento contro i modelli di riconoscimento facciale firmati da Amazon, Microsoft e Face++ (della cinese Megvii). Anche se da qui a considerarlo uno strumento che può salvare la nostra privacy, la strada è lunga. Come annota The Verge, testata Usa specializzata in tecnologia, si pone innanzitutto un problema di adozione: difficilmente la tecnologia sviluppata dal laboratorio dell'Università di Chicago verrà utilizzata in massa e, trattandosi di un problema diffuso, il fatto che solo alcuni ne beneficeranno creerà ineguaglianze e discriminazioni. In secondo luogo, molte delle compagnie che vendono i sistemi di riconoscimento facciale hanno creato i loro database di volti già da tempo ed è impossibile modificare quelle foto.

Privacy e discriminazioni

Fawkes non è neanche il solo sistema che ha l'obiettivo di tutelare la nostra riservatezza: per esempio, alcuni studiosi dell'Università del Maryland hanno messo a punto un maglione che impedisce agli algoritmi di identificare all'interno di un'immagine la persona che lo indossa. Ma, di certo, è il frutto di una maggiore consapevolezza nei confronti di una tecnologia estremamente invasiva che viene impiegata in svariati ambiti, nonostante molti studi scientifici ne abbiano dimostrato le lacune. A farne le spese sono, soprattutto, le persone dalla pelle nera, le donne e più in generale tutte le minoranze che non sono equamente rappresentate nei database scelti per allenare gli algoritmi alla base di questi sistemi. "Se non affrontiamo e risolviamo le discriminazioni degli algoritmi ora siamo destinati a un futuro di esclusione. Creeremo una società dove decisioni automatiche apparentemente oggettive limiteranno l'accesso alle opportunità e ai benefici dell'intelligenza artificiale a pochi privilegiati", ha detto in un'intervista a Repubblica Joy Buolamwini, fondatrice dell'Algorithmic Justice League: un'organizzazione che punta a un mondo hi-tech più inclusivo nei confronti delle minoranze di razza e genere. Uno degli usi più preoccupanti è quello ad opera delle forze di polizia che si servono del riconoscimento facciale per individuare gli autori dei reati. Tecnica che ha già fatto la prima vittima a noi nota: Robert Julian-Borchak Williams, un uomo nero finito in prigione per trenta ore e costretto a pagare mille dollari di cauzione perché accusato ingiustamente di aver rubato alcuni orologi nel negozio di lusso Shinola nell’ottobre 2018. Ad aver puntato il dito contro di lui è stato un algoritmo di riconoscimento facciale incaricato di confrontare le immagini salvate dalle videocamere con i database a disposizione delle forze dell’ordine.


La rivolta contro l'uso del riconoscimento facciale da parte della polizia

Dopo la morte di George Floyd, l'afroamericano ucciso da un agente di polizia, attivisti e gruppi per i diritti civili hanno sollevato il timore che le forze dell'ordine potessero utilizzare la tecnologia per identificare i partecipanti alle manifestazioni contro le violenze dei poliziotti. Un allarme che è stato raccolto da alcuni big dell'hi-tech come Amazon, Microsoft e Ibm, almeno "fino a quando non avremo una legge nazionale basata sui diritti umani che governerà questa tecnologia", stando alle parole di Brad Smith, presidente dell'azienda di Redmond. Ma il New York Times ha fatto notare che si tratta per lo più di un gesto simbolico, in quanto a giocare un ruolo predominante in questo settore sono altre compagnie, più piccole e meno note. Qualche nome: Vigilant Solutions, Cognitec, Nec e Clearview AI. In particolare quest'ultima, finita più volte nell'occhio del ciclone per le pratiche controverse, ha deciso di continuare la propria attività. "Clearview AI crede nella missione di usare il riconoscimento facciale responsabilmente per proteggere i bambini, le vittime di frodi finanziarie e di altri crimini che affliggono le nostre comunità", ha detto l'amministratore delegato Hoan Ton-That.