Brasile, l’Intelligenza artificiale sbaglia ancora: tifoso scambiato per un ricercato dal riconoscimento facciale e arrestato allo stadio

Le 50 telecamere piazzate nello stadio di Aracaju, Stato di Sergipe, hanno cominciato a scandagliare gli spalti. Telecamere sofisticate, prodotte dall’Intelligenza artificiale. Scrutano, osservano, collegano l’immagine a un database collegato alla polizia che confronta la tua identità biometrica. João Antônio Trindade Bastos, 32 anni, sostenitore del Confiança che stava giocando la finale del Campionato, si è sentito stringere da quattro braccia muscolose e si è arreso prima di reagire. Lo accerchiavano quattro agenti che, guidati dalla centrale istallata sopra la tribuna centrale, lo avevano segnalato. L’algoritmo del riconoscimento facciale era entrato in allarme. Quell’uomo era ricercato per un crimine rimasto impunito mesi fa.

L’arresto

La scena ha colpito l’intero stadio affollato da 10mila spettatori. João è stato ammanettato e trascinato sul campo. Quindi, sotto gli occhi di tutti che immaginavano si trattasse di uno de tanti ladruncoli colti in fallo, è stato portato in centrale. Lui si è difeso, ha negato di essere la persona ricercata. Ha insistito sull’errore. Ma solo quando ha tirato fuori un documento di identità e le sue impronte sono state messe a confronto con i dati del cervellone del riconoscimento biometrico, gli agenti si sono accorti dello sbaglio. Il tifoso, scioccato, è tornato sugli spalti. Si è goduto il resto della partita ma quando è rientrato a casa ha pubblicato la sua disavventura su X.

La reazione del sindaco

Il post è diventato virale con decine di commenti e sberleffi. Ma anche molte considerazioni preoccupate. La reazione è stata così corale da spingere il sindaco di Sergipe, Fabio Mitidieri, a sospendere la nuova tecnologia. La storia ripresa dal El Pais ricorda che non era il primo caso di un fallimento che ha imposto un largo dibattito in Brasile. C’era un precedente. A Bahia, culla del carnevale ma anche nuova capitale del crimine con tassi di omicidi che hanno superato la stessa Rio de Janeiro. Una donna che si divertiva tra i carri e le sfilate era stata arrestata per strada e accusata di un vecchio furto. Era innocente. Anche lei, come João.

I pregiudizi della tecnologia

I brasiliani amano le nuove tecnologie. Sfruttano il loro potenziale e lo applicano nel lavoro, nello studio, nella vita di tutti i giorni. Ne sono fieri e la sostengono. L’irruzione della IA nella società è stata accolta con entusiasmo. I dati raccolti nei continui sondaggi su un tema così attuale e così sensibile certificano che ben il 30 per cento giudica positivamente anche la nuova applicazione sulla lettura facciale. Ma continua ad avere dubbi sulla sua piena efficacia. Insiste per svilupparla e la critica sostenendo che gli algoritmi studiati dagli ingegneri che l’hanno creata sono influenzati da pregiudizi razziali e sociali. L’esame dei risultati conferma che questo sistema di rilevazione biometrico finisce per colpire prevalentemente le persone di colore, povere e quasi sempre donne. Sono vittime di una visione distorta e di antichi retaggi di tipo culturale. Chi li ha creati, insomma, sono soprattutto uomini e bianchi.

Tuttavia, anche queste lacune, per non dire difetti, non intaccano gli sviluppi sorprendenti dell’Intelligenza artificiale. Il Brasile è secondo solo alla Gran Bretagna, seguito da Usa e Corea, ad aver sviluppato le nuove tecnologie interfacciali applicate in diversi campi. Nel commercio, per conoscere la reazione di un consumatore di fronte a un prodotto, fino a seguire le tracce di una persona scomparsa o rilevare la sonnolenza di un’autista. Ma anche identificare qualcuno in uno spazio e con chi si trova, classificare la gente per etnia, sesso ed età. Aiutare un ammalato di alzheimer a orientarsi. Fino a quella più inquietante di monitorare il comportamento di un partecipante a una riunione o a un concorso e su quei dati finali esprimere un giudizio.

La Commissione Europea ha già preparato una proposta per la regolamentazione della IA (AI Act). E’ chiara la preoccupazione: bisogna superare il divario tra i progressi che rappresentano un rischio “elevato e inaccettabile” per i diritti fondamentali senza ostacolarne lo sviluppo. Il rapporto conclusivo ha steso delle norme di condotta: paletti indicati con i colori di un semaforo che ne indicano i livelli di rischio.

L'Ia contro la violenza

In Brasile siamo in uno stadio avanzato. L’insicurezza e la violenza sono temi centrali nei dibattiti e in cima alle priorità. E’ stato quasi immediato che l’Ia facesse il suo ingresso nella campagna elettorale per il voto alle comunali di ottobre. Il Congresso ha anticipato i tempi e ha approvato una legge che obbliga tutti gli stadi con più di 20mila spettatori a installare il riconoscimento facciale. Quello di San Paolo, il Palmeiras, che ha una capienza di 43mila tifosi, lo ha già applicato ed è diventato una vetrina del sistema. Niente biglietti cartacei, nemmeno scannerizzato sul cellulare. Basta mettere la faccia davanti a uno schermo e si accede al proprio posto.

Ovviamente lo stadio collabora con la polizia. E questo volume di dati finisce dentro un cervellone che si dirama sui server che vigilano in tempo reale. Il Segretariato di Pubblica Sicurezza li verifica poi con i suoi dati che sono estratti da milioni di fascicoli su sospettati, criminali, latitanti, persone scomparse. Il sistema funziona. Anche i grandi boss non rinunciano alla passione per il calcio. Vanno allo stadio, convinti di farla franca. Un narco accusato di aver trasportato 500 chili di cocaina è stato incastrato dal riconoscimento facciale. Altri 50 accusati a vario titolo sono finiti in manette; 250 ultras colpiti dal Daspo e dati per dispersi si sono ritrovati agli arresti in casa.

Nessuno lo dice. Ma secondo dati ufficiosi almeno 80 milioni di persone hanno già il loro viso memorizzato in questa banca creata dall’Intelligenza artificiale. Bahia, assillata dall’aumento degli omicidi, conta di acquisire tutti i suoi 20 milioni di abitanti entro la fine di quest’anno. Il sindaco di San Paolo, Ricardo Nunes, ha promesso di installare 20mila nuove telecamere biometriche facciali in tutta la città. La decisione ha il consenso della gente. Se ti comporti bene non ha nulla da temere, commenta. Il salto verso il futuro comporta anche dei risparmi e licenziamenti. Non ci sarà più bisogno dei portieri che controllano giorno e notte gli ingressi di tutte le case. Basterà il video citofono che acquisirà sullo scanner il tuo viso. Errori a parte, sempre in agguato.