Decreto IA, Benifei: “Ue dovrebbe contestare la procedura d'urgenza sul riconoscimento facciale”

Una telecamera puntata su una piazza non cambia aspetto quando le si abbina un software di intelligenza artificiale. Ma può fare molto di più: confrontare un volto con un archivio e riconoscere chi sta osservando.

È attorno a questo elemento che si concentra la parte più discussa dei due decreti attuativi della legge 132 del 2025, approvati in esame preliminare dal Consiglio dei ministri, con cui l'Italia adegua il proprio ordinamento all'AI Act, il regolamento europeo sull'intelligenza artificiale entrato in vigore nell'agosto 2024.

Il governo presenta il provvedimento come il primo quadro nazionale organico in Europa allineato alle regole di Bruxelles, e sul fronte sicurezza rivendica una serie di garanzie, tra cui l’identificazione biometrica, dunque il riconoscimento facciale, di potenziali autori di reato.

Il testo disciplina due ipotesi distinte: l'identificazione biometrica a distanza in tempo reale, utilizzabile prima di un reato in casi gravi come il terrorismo o la ricerca di persone scomparse, e il riconoscimento facciale a posteriori, attivabile dopo un fatto già avvenuto.

Su questo tema abbiamo sentito Brando Benifei, europarlamentare del Partito Democratico ma soprattutto uno dei due relatori dell'AI Act - insieme al giudice rumeno Dragoș Tudorache - e oggi alla guida del gruppo di lavoro del Parlamento europeo che ne segue l'attuazione.

La sua lettura del decreto italiano individua possibili frizioni con le norme approvate a Bruxelles in materia di riconoscimento biometrico in tempo reale, soprattutto in caso di una procedura d'urgenza.

“La formulazione attuale del decreto IA prevede che serva un "fondato motivo" per avviare l'azione senza l'autorizzazione preventiva - ci dice Benifei -. Il testo dell'AI Act europeo dice una cosa diversa, e dal punto di vista giuridico la differenza è sostanziale. Per come è strutturato il decreto italiano, si facilita l'azione della polizia, consentendo di avviare la procedura in via d'urgenza senza che questa debba essere correttamente giustificata fin dal principio”.

Cosa cambia in concreto rispetto all’AI Act?

“L'espressione utilizzata nel regolamento europeo è "duly justified", che non equivale a "fondato motivo" ma a “debitamente giustificata”. Il fondato motivo viene valutato sul momento dal poliziotto o dal questore. L'obbligo di fornire una giustificazione formale significa invece che devi motivare l'azione fin dall'inizio, e non ex post quando ti rivolgi al magistrato nelle ore successive”.

Sembra una sottigliezza giuridica.

“Sì, lo è, ma permette alla polizia di muoversi ritenendo, a propria discrezione, che vi sia un fondato motivo, senza doverlo giustificare preventivamente. L'AI Act su questo è esplicito: "duly justified" significa che l'azione deve essere immediatamente e pedissequamente giustificata in modo corretto. Questa formulazione italiana non va bene e a mio avviso dovremmo contestarla in sede europea”.

C'è altro che sembra differire dall’AI Act su questo tema?

“Sì, ed è più articolato. Non entra in collisione automatica con l'AI Act, ma nei fatti conduce a una forma di sorveglianza biometrica generalizzata, in contrasto con i doveri di proporzionalità che stanno alla base della legge. Mi riferisco al riconoscimento a posteriori con conservazione dei dati per sette giorni. Il problema non è l'azione in sé, che non essendo in tempo reale non tocca il punto precedente, dato che i dati vengono raccolti per essere usati solo in un secondo momento. È l'ampiezza della misura a destare allarme: sembra applicarsi a tutti i luoghi pubblici, e così rischia di violare il principio di proporzionalità e di tradursi in un'operazione di sorveglianza di massa”.

Il decreto italiano prevede che in luoghi o eventi con esigenze di ordine e sicurezza pubblica vengano trattati automaticamente i dati biometrici dei volti di chi accede, con una memorizzazione locale di 7 giorni in una base dati di riferimento, unitamente ai dati anagrafici e - qualora esistesse - all'eventuale posto assegnato.

“È assolutamente sproporzionato ed è esattamente questo il problema principale. Questa formulazione configura una raccolta massiva e preventiva di dati dei cittadini. È vero che i dati non vengono processati in tempo reale, ma è evidente il tentativo di bypassare i rigidi limiti imposti dall'Europa per il tempo reale facendoli ricadere nell'utilizzo ex post. Il punto chiave della biometria in tempo reale è proprio il fatto che raccoglie i dati di chiunque si trovi in un luogo, ed è per questo che la legge europea impone garanzie severissime: casistiche limitatissime e autorizzazione del magistrato. Creare una raccolta di massa con l'idea di poter utilizzare i dati entro sette giorni in caso di necessità elude la ratio della legge europea. I dati biometrici sono estremamente delicati e qui manca totalmente il principio di proporzionalità. Credo che questo punto specifico offra un aggancio giuridico molto forte per un'eventuale azione giudiziaria volta a chiedere l'annullamento del decreto”.

Che cosa prevede esattamente l’AI Act sul riconoscimento facciale a posteriori?

“Il riconoscimento a posteriori è permesso, ma con una serie di salvaguardie che saranno pienamente operative, nel loro complesso, solo alla fine del 2027. La tutela rispetto ai sistemi biometrici non in tempo reale rientra nei cosiddetti ‘casi d'uso ad alto rischio’”.

Che cosa dovrebbe cambiare entro il 2027?

“La scadenza per la piena applicazione delle norme sui sistemi ad alto rischio è fissata alla fine del 2027 proprio per consentire la definizione di uno standard tecnico comune, che servirà a valutare il rispetto dei parametri di sicurezza dell'AI Act: dalla gestione dei dati al controllo umano, fino alla cybersicurezza. Finché non avremo questi parametri, il rischio è di adottare sistemi inefficienti senza gli strumenti per verificarne l'effettiva qualità, affidandosi soltanto alle dichiarazioni del fornitore privato”.

Né il decreto italiano né l'AI Act menzionano in effetti standard stringenti di accuratezza per il riconoscimento facciale.

“È una questione importante. Gli standard tecnici sono ancora in via di sviluppo, ed è proprio l'assenza di parametri unificati a sconsigliare un uso massivo di questi sistemi. Oggi l'implementazione dell'AI Act è incompleta anche per gli usi permessi”.

Nel decreto italiano non si fa menzione dell'obbligo di registrazione dei sistemi tecnologici utilizzati per il riconoscimento biometrico nella banca dati dell'Unione Europea, che è invece uno dei punti centrali dell'AI Act per garantire la trasparenza. Come si spiega questa mancanza?

“Il principio cardine è che si deve sapere pubblicamente quali sistemi utilizzi la polizia per il riconoscimento biometrico. È un registro che serve a evitare che l'uso di queste tecnologie rimanga occulto”.

Questo registro è accessibile pubblicamente?

“L'accesso a questo database è riservato ad alcuni soggetti specifici previsti dal testo europeo, ma la sua funzione è di controllo e trasparenza. Il fatto che il decreto italiano non lo citi è singolare, visto che fa riferimento pedissequo a quasi tutti gli altri punti della norma europea”.

Se il decreto non ne parla, significa che le forze dell'ordine italiane potrebbero non applicare questo obbligo di registrazione?

“Da un punto di vista strettamente giuridico dobbiamo ricordare che il regolamento europeo è un atto autoapplicativo e prevale sulle leggi nazionali, a maggior ragione su un decreto legislativo che è un atto secondario rispetto alla legge delega del governo. Ciò che il decreto non dice, ma che è previsto dall'AI Act e non è esplicitamente contraddetto, si applica comunque. L'obbligo di registrazione sussiste in virtù della legge europea e le autorità italiane dovranno rispettarlo”.

Nel decreto IA attuato in Italia si sottolinea che, al di là delle tecnologie messe in campo, ogni decisione resterà “umana”.

“È un'affermazione pleonastica. È ovvio che debba essere un essere umano a prendersi la responsabilità di decidere, ma dobbiamo essere realisti: limitiamo questi strumenti proprio perché sappiamo che possono compiere errori gravi, fino a portare a detenzioni ingiuste. Il loro uso deve restare proporzionato e validato da un magistrato”.

Perché dubita che un operatore contesti davvero la macchina?

“Perché quella frase è un'ovvietà, mentre la domanda vera è un'altra: quale funzionario pubblico, agente di polizia o persino medico, davanti a un sistema che gli indica un obiettivo, si mette davvero a contestarlo convinto che stia sbagliando? È difficilissimo. Non parliamo di IA generativa, dove leggi un testo e verifichi se una data è corretta. Qui parliamo di sistemi che aiutano a identificare persone sulla base di dati biometrici come la voce o frammenti del volto”.

Sappiamo che gli algoritmi possono sbagliare anche nel riconoscimento facciale.

“Esattamente. Di fronte a un testo, l'allucinazione è verificabile. Ma come fa un essere umano davanti a uno schermo a stabilire con certezza che il sistema ha sbagliato a riconoscere un volto? Per questo l'utilizzo va limitato a casi di assoluta gravità, dal terrorismo ai crimini violenti fino alla ricerca di vittime e di bambini scomparsi, e sempre con il coinvolgimento di un magistrato. Non può essere una decisione in mano a un qualsiasi operatore di polizia sotto il controllo del governo. Non è una differenza da poco”.

Durante la negoziazione e la scrittura dell'AI Act avete visionato direttamente queste tecnologie? Quali passi avanti sono stati fatti negli ultimi anni nel riconoscimento di persone e attività?

“Sì, assolutamente, e i sistemi si sono evoluti molto. Resta il fatto che, per quanto ne sappiamo, questi strumenti compiono ancora errori: identificano persone in modo sbagliato, segnalano individui che non erano sul posto o che non stavano compiendo l'azione rilevata dal sistema”.

Oltre all'errore tecnico, c'è un problema di scala?

“Sì, ed è la ragione di fondo. L'orientamento normativo è che una tecnologia simile vada riservata alla lotta ai criminali pericolosi e alla tutela delle vittime, non alla microcriminalità. Faccio un esempio: se qualcuno ruba un laptop in un negozio, che è un reato ma non tra i più gravi, non possiamo riempire la città di telecamere biometriche che tracciano tutti i cittadini, ne registrano spostamenti e contatti e ne prevedono persino i comportamenti futuri analizzando i dati storici, solo per trovare quel ladro. Altrimenti saremmo già in Cina, dove le telecamere biometriche sono ovunque”.