OTTAWA – La polizia di Edmonton, in Canada, ha avviato un progetto pilota che utilizza bodycam dotate di intelligenza artificiale per rilevare i volti di persone inserite in una lista di controllo "ad alto rischio". L'iniziativa di Axon Enterprise, Inc. ha sollevato preoccupazioni di natura etica, soprattutto perché l'azienda aveva precedentemente sospeso il riconoscimento facciale per motivi di privacy. Il progetto pilota mira a migliorare la sicurezza degli agenti e del pubblico identificando le persone segnalate per precedenti penali gravi. Tuttavia, i critici temono i rischi per la società e la mancanza di dibattito pubblico. Il Ceo di Axon, Rick Smith, descrive il progetto come una "ricerca sul campo in fase iniziale" per raccogliere informazioni. Il progetto pilota durerà fino a dicembre, con i risultati analizzati successivamente presso la stazione di polizia.
Le bodycam della polizia dotate di intelligenza artificiale sono state addestrate per rilevare i volti di circa 7.000 p…
OTTAWA – La polizia di Edmonton, in Canada, ha avviato un progetto pilota che utilizza bodycam dotate di intelligenza artificiale per rilevare i volti di persone inserite in una lista di controllo "ad alto rischio". L'iniziativa di Axon Enterprise, Inc. ha sollevato preoccupazioni di natura etica, soprattutto perché l'azienda aveva precedentemente sospeso il riconoscimento facciale per motivi di privacy. Il progetto pilota mira a migliorare la sicurezza degli agenti e del pubblico identificando le persone segnalate per precedenti penali gravi. Tuttavia, i critici temono i rischi per la società e la mancanza di dibattito pubblico. Il Ceo di Axon, Rick Smith, descrive il progetto come una "ricerca sul campo in fase iniziale" per raccogliere informazioni. Il progetto pilota durerà fino a dicembre, con i risultati analizzati successivamente presso la stazione di polizia.
Le bodycam della polizia dotate di intelligenza artificiale sono state addestrate per rilevare i volti di circa 7.000 persone inserite in una lista di controllo "ad alto rischio" nella città canadese di Edmonton, un test dal vivo per verificare se la tecnologia di riconoscimento facciale, considerata troppo invasiva, possa trovare applicazione nelle attività di polizia in tutto il Nord America.
Ma sei anni dopo che Axon Enterprise, Inc., azienda leader nel settore delle bodycam, ha dichiarato che l'uso della tecnologia di riconoscimento facciale da parte della polizia poneva serie preoccupazioni etiche, il progetto pilota, avviato la scorsa settimana, sta suscitando allarme ben oltre Edmonton, la città più settentrionale del continente, con oltre 1 milione di abitanti. Un ex presidente del comitato etico per l'intelligenza artificiale di Axon, che ha portato l'azienda ad abbandonare temporaneamente il riconoscimento facciale nel 2019, ha dichiarato all'Associated Press di essere preoccupato che l'azienda con sede in Arizona stia procedendo senza un adeguato dibattito pubblico, test e verifiche da parte di esperti sui rischi sociali e sulle implicazioni per la privacy.
"È essenziale non utilizzare queste tecnologie, che comportano costi e rischi molto concreti, a meno che non vi siano chiare indicazioni sui benefici", ha affermato l'ex presidente del consiglio di amministrazione, Barry Friedman, ora professore di diritto alla New York University.
Il fondatore e CEO di Axon, Rick Smith, sostiene che il progetto pilota di Edmonton non è un lancio di prodotto, ma una "ricerca sul campo in fase iniziale" che valuterà le prestazioni della tecnologia e rivelerà le misure di sicurezza necessarie per un utilizzo responsabile. "Testando in condizioni reali al di fuori degli Stati Uniti, possiamo raccogliere informazioni indipendenti, rafforzare i quadri di controllo e applicare tali conoscenze a valutazioni future, anche all'interno degli Stati Uniti", ha scritto Smith in un post sul blog.
Il progetto pilota mira a contribuire a rendere più sicuri gli agenti di pattuglia di Edmonton, consentendo alle loro bodycam di rilevare chiunque sia stato classificato dalle autorità come “da allerta" per esere inquadrato come "violento o aggressivo; armato e pericoloso; con armi; a rischio di fuga; e criminale ad alto rischio", ha sottolineato Kurt Martin, sovrintendente facente funzioni del Servizio di Polizia di Edmonton. Finora, la lista di controllo conta 6.341 persone, ha dichiarato Martin in una conferenza stampa del 2 dicembre. Una lista di controllo separata include 724 persone con almeno un mandato di cattura per reati gravi, ha aggiunto. "Vogliamo davvero assicurarci che sia mirata, in modo che si tratti di persone con reati gravi", ha aggiunto Ann-Li Cooke, direttrice dell'IA responsabile di Axon.
Se il progetto pilota dovesse espandersi, potrebbe avere un impatto significativo sulle attività di polizia in tutto il mondo. Axon, un'azienda quotata in Borsa nota per lo sviluppo del Taser, è il principale fornitore statunitense di bodycam e le ha sempre più proposte alle forze di polizia in Canada e altrove. L'anno scorso Axon ha battuto il suo concorrente più vicino, Motorola Solutions con sede a Chicago, nel tentativo di vendere bodycam alla Royal Canadian Mounted Police. Motorola ha dichiarato di avere anche la capacità di integrare la tecnologia di riconoscimento facciale nelle bodycam della polizia, ma, in base ai suoi principi etici, si è "intenzionalmente astenuta dall'implementare questa funzionalità per l'identificazione proattiva". Non ha escluso di utilizzarla in futuro.
Nel 2023, il governo dell'Alberta ha reso obbligatorio l'uso di bodycam per tutte le forze di polizia della provincia, inclusa la capitale Edmonton, descrivendola come una misura di trasparenza per documentare le interazioni con la polizia, raccogliere prove più accurate e ridurre i tempi di risoluzione di indagini e reclami.
Sebbene molte comunità negli Stati Uniti abbiano accolto con favore le bodycam come strumento di responsabilizzazione, la prospettiva del riconoscimento facciale in tempo reale per identificare le persone in luoghi pubblici è stata impopolare in tutto lo spettro politico. Le reazioni negative dei sostenitori delle libertà civili e un dibattito più ampio sull'ingiustizia razziale hanno contribuito a spingere Axon e le grandi aziende tecnologiche a sospendere le vendite di software di riconoscimento facciale alla polizia.
Tra le maggiori preoccupazioni c'erano studi che dimostravano che la tecnologia era difettosa, con risultati distorti in base a razza, genere ed età. Inoltre, non riconosceva i volti con la stessa accuratezza nei feed video in tempo reale come faceva con i volti in posa per documenti d'identità o foto segnaletiche della polizia.
Diversi Stati americani e decine di città hanno cercato di limitare l'uso del riconoscimento facciale da parte della polizia, sebbene l'amministrazione del presidente Donald Trump stia ora cercando di bloccare o scoraggiare gli Stati dal regolamentare l'IA.
L'Unione Europea ha vietato la tecnologia di scansione facciale pubblica in tempo reale per la polizia in tutti i 27 paesi, tranne quando utilizzata per reati gravi come il rapimento o il terrorismo. Ma nel Regno Unito, che non fa più parte dell'UE, le autorità hanno iniziato a testare la tecnologia per le strade di Londra un decennio fa e l'hanno utilizzata per effettuare 1.300 arresti negli ultimi due anni. Il governo sta valutando di estenderne l'uso in tutto il paese.
Molti dettagli sul progetto pilota di Edmonton non sono stati resi pubblici. Axon non produce un proprio modello di intelligenza artificiale per il riconoscimento facciale, ma si è rifiutata di rivelare quale fornitore terzo utilizza. La polizia di Edmonton afferma che il progetto pilota continuerà fino alla fine di dicembre e solo durante le ore diurne. "Ovviamente qui fa buio abbastanza presto", ha detto Martin. "Le condizioni di illuminazione, le nostre basse temperature invernali, tutti questi fattori influenzeranno ciò che stiamo esaminando in termini di successo di una proof of concept."
Martin ha affermato che circa 50 agenti che collaboreranno con la tecnologia non sapranno se il software di riconoscimento facciale ha trovato una corrispondenza. I risultati saranno analizzati in seguito presso la stazione. In futuro, tuttavia, potrebbe aiutare la polizia a rilevare la presenza di una persona potenzialmente pericolosa nelle vicinanze, in modo da poter richiedere assistenza, ha affermato Martin.
Questo dovrebbe accadere solo se gli agenti hanno avviato un'indagine o stanno rispondendo a una chiamata, non semplicemente mentre passeggiano tra la folla. Martin ha affermato che gli agenti che rispondono a una chiamata possono passare dalla modalità di registrazione passiva a quella attiva con immagini ad alta risoluzione. "Vogliamo davvero rispettare i diritti delle persone e i loro interessi in materia di privacy", ha affermato Martin.
L'ufficio del Commissario per l'informazione e la privacy dell'Alberta, Diane McLeod, ha dichiarato di aver ricevuto una valutazione dell'impatto sulla privacy dalla polizia di Edmonton il 2 dicembre, lo stesso giorno in cui Axon e i funzionari di polizia hanno annunciato il programma. L'ufficio ha dichiarato venerdì di essere al lavoro per rivedere la valutazione, un requisito per i progetti che raccolgono dati personali "ad alta sensibilità". Temitope Oriola, professore di criminologia presso l'Università dell'Alberta, ha affermato di non essere sorpreso che la città stia sperimentando il riconoscimento facciale in tempo reale, dato che la tecnologia è già onnipresente nella sicurezza aeroportuale e in altri ambienti. "Edmonton è un laboratorio per questo strumento", ha affermato Oriola. "Potrebbe rivelarsi un miglioramento, ma non ne siamo certi". Oriola ha aggiunto che il servizio di polizia ha avuto un rapporto teso con i suoi residenti indigeni e neri, in particolare dopo l’uccisione di un membro della comunità sudsudanese da parte della polizia lo scorso anno, e resta da vedere se la tecnologia di riconoscimento facciale renderà più sicuro il lavoro di polizia o migliorerà le interazioni con il pubblico.
Axon ha dovuto affrontare critiche per le sue implementazioni tecnologiche in passato, come nel 2022, quando Friedman e altri sette membri del comitato etico per l'intelligenza artificiale di Axon si dimisero per protestare contro le preoccupazioni relative a un drone dotato di Taser.
Negli anni successivi alla decisione di Axon di non adottare il riconoscimento facciale, Smith, l'amministratore delegato, spiega che l'azienda ha "continuato la ricerca controllata in laboratorio" su una tecnologia che è "diventata significativamente più accurata" ed è ora pronta per la sperimentazione nel mondo reale.
Ma Axon ha riconosciuto in una dichiarazione all'AP che tutti i sistemi di riconoscimento facciale sono influenzati da "fattori come distanza, illuminazione e angolazione, che possono avere un impatto sproporzionato sulla precisione per gli individui dalla pelle scura". Ogni corrispondenza richiede una revisione umana, ha affermato Axon, e parte dei suoi test consiste anche nel "capire quale formazione e supervisione i revisori umani debbano avere per mitigare i rischi noti". Friedman ha aggiunto che Axon dovrebbe rendere pubbliche queste valutazioni. Vorrebbe vedere più prove del miglioramento del riconoscimento facciale da quando il suo consiglio di amministrazione ha concluso che non era abbastanza affidabile da giustificarne eticamente l'uso nelle telecamere della polizia.