"Così i gruppi europei fanno affari con la Cina sul riconoscimento facciale"

Tecnologie che vanno ad alimentare un enorme apparato di sorveglianza, mettendo a rischio i diritti umani. A venderle sono alcune aziende europee, leader nello sviluppo di sistemi di riconoscimento biometrici, cioè che hanno lo scopo di individuare una persona grazie a una o più caratteristiche biologiche e/o comportamentali. Strumenti che hanno attirato gli appetiti delle agenzie di sicurezza cinesi, desiderose di accrescere le loro capacità hi-tech, e possono essere sfruttati contro gli uiguri, minoranza etnica di fede prevalentemente musulmana che popola la regione autonoma dello Xinjiang, nella Cina nord-occidentale.

I soldi sporchi delle aziende Ue
La denuncia arriva da un report appena pubblicato da Amnesty International, con un tempismo non casuale: il 22 settembre il Parlamento europeo e gli stati membri dell'Unione decideranno se rafforzare le regole che riguardano l'esportazione di tecnologie cosiddette "dual use", ovvero sfruttabili sia in ambito civile sia per la sicurezza statale. Un quadro normativo che fatica a tenersi al passo con i tempi e che la maggior parte degli Stati d'Europa, come Francia e Svezia, sembra non essere interessata a irrobustire. Disinteresse contro cui si schiera l'organizzazione no-profit internazionale. "I legislatori Ue devono intervenire per fermare questo commercio abusivo", attacca Merel Koning, responsabile delle politiche di Amnesty International per  tecnologia e diritti umani. "Le aziende dell'Unione stanno traendo profitto dalla cessione di tecnologie di sorveglianza digitale che sono legate a orribili violazioni. Le imprese avrebbero dovuto sapere perfettamente che le vendite alle autorità cinesi erano ad alto rischio ma, a quanto pare, non hanno preso alcun provvedimento per impedire che i loro prodotti fossero studiati e usati da chi commette abusi, venendo meno alle loro responsabilità".

Dalle telecamere al riconoscimento delle emozioni
In particolare, sono tre le compagnie finite nel mirino. La svedese Axis Communications, che produce telecamere di sorveglianza connesse dotate di un angolo da 360 gradi e un raggio di 3/400 metri, consentendo di tracciare le persone inquadrate da ogni direzione. Il legame con l'apparato di sicurezza pubblica cinese è talmente forte che l'azienda è stata definita un "brand raccomandato" nei documenti ufficiali del Dragone. Un amore ricambiato tanto che sul proprio sito Axis Communications si vanta di aver implementato la rete di videocamere di Guilin, città del sud della Cina con una popolazione di circa 5 milioni di persone, facendo balzare il numero dei dispositivi impiegati dalle ottomila alle trentamila unità. Poi c'è Ipodemia, multinazionale francese specializzata nel riconoscimento facciale che, nel 2015 si è aggiudicata un bando per la fornitura dell'Ufficio di pubblica sicurezza di Shanghai. Infine, si scopre una società olandese di nome Noldus Information Technology, che ha esportato in Oriente i propri sistemi di riconoscimento delle emozioni. Fiore all'occhiello dell'azienda è FaceReader, un software sfruttabile per l'analisi automatizzata di espressioni facciali che trasmettono diversi sentimenti: rabbia, felicità, tristezza, sorpresa e disgusto. Ottimo a fini di ricerca, peccato che in Cina a utilizzarlo siano delle università che hanno legami con l'apparato di pubblica sicurezza e con la polizia, nonché con il Ministero della pubblica sicurezza.

Privacy e discriminazioni: tutti i rischi
Tutte le tecnologie in questione interferiscono con il diritto alla privacy e vengono definite "estremamente invasive". Ad esempio, gli strumenti di riconoscimento facciale — di cui Amnesty International chiede che sia vietato l'uso, lo sviluppo, la produzione, la vendita e l'esportazione a scopo di identificazione sia da parte delle agenzie statali sia da parte delle aziende private — permettono ai governi di identificare e monitorare le persone negli spazi pubblici, o di individuarle in base alle loro caratteristiche fisiche e/o comportamentali, sempre più facilmente. Inoltre, molti studi scientifici ne hanno dimostrato le lacune che possono determinare "discriminazioni automatizzate". A farne le spese sono, soprattutto, le persone dalla pelle nera, le donne, e più in generale tutte le minoranze che non vengono equamente rappresentate nei database scelti per allenare gli algoritmi alla base di questi sistemi. Tecnica che ha già fatto la prima vittima a noi nota: Robert Julian-Borchak Williams, un afroamericano finito in prigione nei pressi di Detroit per trenta ore e costretto a pagare mille dollari di cauzione perché accusato ingiustamente di aver rubato alcuni orologi nel negozio di lusso Shinola nell'ottobre del 2018. Ad aver puntato il dito contro di lui è stato un algoritmo di riconoscimento facciale incaricato di confrontare le immagini salvate dalle videocamere con i database a disposizione delle forze dell’ordine. Non a caso, dopo la morte di George Floyd, l'afroamericano ucciso il 20 maggio a Minneapolis da un agente di polizia, attivisti e gruppi per i diritti civili hanno sollevato il timore che le forze dell'ordine potessero utilizzare questa tecnologia per identificare i partecipanti alle manifestazioni contro le violenze dei poliziotti.

In Xinjiang uno Stato di polizia hi-tech
Il loro impiego in contesti come quello cinese risulta ancora più preoccupante. Da qualche tempo il controllo di Pechino nello Xinjiang, dove in passato si sono verificati degli attentati separatisti, sta diventando sempre più all'avanguardia. Il risultato è una sorta di Stato di polizia tecnologico che viola sistematicamente i diritti umani dei 13 milioni di musulmani che abitano la regione. Il Wall Street Journal ha definito la zona "uno dei posti più sorvegliati al mondo" e BuzzFeed news ha rincarato la dose parlando di "una finestra sul possibile futuro distopico creato dalla sorveglianza tecnologica". L'ennesima conferma è arrivata quando un'analisi di Human Rights Watch ha puntato il dito su un'applicazione usata dai poliziotti locali per controllare i cittadini e stabilire se un soggetto è, o meno, a rischio estremismo. Lo fa analizzando una serie di informazioni personali che vengono inserite sull'app: da una donazione alla moschea locale agli acquisti di materiale elettrico, da un viaggio all'estero troppo lungo a rapporti freddi con i vicini. Tutti dati che vengono elaborati da un algoritmo: se l'individuo corrisponde a uno dei 36 profili-tipo a rischio estremismo scatta il campanello d'allarme e i suoi spostamenti iniziano a essere seguiti e controllati con maggiore attenzione. Lo scorso anno, l'ombra della Cina si è allungata anche su alcune vulnerabilità del sistema operativo Apple che sarebbero state sfruttate per infettare i dispositivi della minoranza uigura e raccoglierne informazioni. Gli strumenti di riconoscimento facciale e le telecamere si configurano come un salto in avanti nel sistema di repressione, che è stato più volte condannato dall'Unione europea. E che, tuttavia, dell'Europa porta la firma