AI Act, dal diritto di sapere se parliamo con una persona reale al riconoscimento facciale: ecco cosa cambia per i cittadini

Saremo più tutelati contro gli abusi dell’intelligenza artificiale; contro il rischio che ad esempio ci neghi ingiustamente un sussidio, ci scarti in automatico a un colloquio di lavoro o ci alzi il premio assicurativo in base al nostro rischio sanitario. Oppure contro la possibilità che i nostri figli abbiamo un cattivo voto, discriminatorio, stabilito dagli algoritmi usati dalle scuole.

Ma potremo anche avere videocamere con riconoscimento facciale in grado di aiutare la polizia a perseguire con più efficacia crimini o trovare persone scomparse, all’interno dei paletti stabiliti dalle norme.

Ci sono questi tra i numerosi, possibili, effetti dell’AI Act sui cittadini, approvato in via definitiva dall’Europa. È un regolamento europeo, entra in vigore in tutti i Paesi – Italia compresa – ma prevede anche un certo periodo di tempo per l’adeguamento. Le tempistiche variano a seconda del tipo di obbligo previsto nell’act. Dovremo aspettare il 2025-2026 per vedere quindi gli effetti concreti su tutti noi.

Pratiche vietate e ad alto rischio

Già tra sei mesi circa saranno vietate alcune pratiche che l’Europa considera inaccettabili, per i nostri principi democratici. No quindi a sistemi o usi dell’IA per manipolare le persone sfruttandone le vulnerabilità psicologiche (per spingerle ad esempio a comprare certi prodotti o a votare per certi candidati) o alla polizia predittiva tipo il film Minority Report: calcolare la possibilità per ciascuno di noi di compiere in futuro alcuni reati. Attenzione, diverso (e permesso) è il calcolo della possibilità che una certa persona abbia compiuto un reato specifico, per cui è indagato. L’AI Act si muove continuamente tra la tutela dei diritti e l’autorizzazione della tecnologia a scopi di sicurezza e indagine.

È vietata la sorveglianza di massa indiscriminata, come la raccolta di immagini da internet o dalle videocamere per schedarci, grazie all’Intelligenza artificiale che riconosce in automatico i volti e quindi ci identifica. È un software che già esiste (Clearview), usato dalla polizia americana (tra mille polemiche). L’AI Act quindi tra l’altro funzionerà come argine preventivo perché questi utilizzi non ci arrivino a colpire.

Saremo invece tutelati contro gli abusi di alcuni altri utilizzi dell’IA, considerati ad alto rischio. L’Europa ha stilato una lista di esempi, che terrà aggiornata. L’IA nell’ istruzione e formazione professionale, ad esempio per valutare i risultati dell'apprendimento e per guidare il processo di apprendimento e monitorare chi imbroglia nei compiti e negli esempi; la gestione dei lavoratori e accesso al lavoro autonomo, ad esempio per pubblicare annunci di lavoro mirati, analizzare e filtrare le domande di lavoro e valutare i candidati; l’accesso a servizi e benefici pubblici e privati essenziali (ad esempio, l'assistenza sanitaria), valutazione del merito creditizio delle persone fisiche, valutazione del rischio e determinazione dei prezzi in relazione alle assicurazioni sulla vita e sulla salute; alcuni sistemi utilizzati nei settori dell'applicazione della legge, del controllo delle frontiere, dell'amministrazione della giustizia e dei processi democratici.

Come si tutela il cittadino da possibili abusi dell’algoritmo, ad esempio che sia discriminato in base a etnia, orientamento sessuale o altri fattori (come già riscontrato negli Stati Uniti, dove questi sistemi sono più usati dalle aziende ad esempio per scremare i curriculum)?

L’Europa ha imposto alcuni obblighi: chi fa quel sistema di IA deve “sottoporlo a una valutazione di conformità”, prima di venderlo o renderlo disponibile. Gli sviluppatori dovranno dimostrare alle autorità che il sistema è conforme ai requisiti obbligatori per un'IA affidabile (ad esempio, qualità dei dati, documentazione e tracciabilità, trasparenza, supervisione umana, accuratezza, sicurezza informatica e robustezza). I fornitori del servizio devono anche avere sistemi di gestione della qualità e del rischio. Questi obblighi scatteranno nel 2026. Le aziende hanno due anni di tempo circa per mettersi in regola.

Trasparenza

L’Europa, come gli Stati Uniti, è preoccupata anche che l’IA possa aumentare la disinformazione. Sono sempre più facili e diffusi i sistemi per creare immagini artificiali (e presto anche video) oppure per alterare immagini reali con pochi clic aggiungendo persone o facendole sparire. Ed è sempre più difficile per l’occhio umano distinguere le immagini create con l’IA, mentre i sistemi automatici utilizzabili per per farlo sono poco affidabili.

È anche possibile farsi trarre in inganno da voci, chatbot o avatar artificiali e scambiarli per esseri umani reali. I rischi possono arrivare così truffatori o manipolatori di professione (anche al soldo di potenze straniere). Ecco perché l’AI Act stabilisce l’obbligo, per tutta la filiera, di permettere agli utenti di riconoscere ciò che è creato con l’intelligenza artificiale, tramite bollini, avvisi o altri mezzi.

Polizia

L’AI Act però, regolamentando alcuni utilizzi di polizia, di fatto li autorizza definitivamente laddove finora c’era un limbo normativo che poteva trattenerne lo sviluppo. Autorizza quindi certo l’analisi biometrica non in tempo reale: analisi di registrazioni di videocamere di sicurezza per riconoscere i volti di chi ha commesso un certo reato. Prevede però un obbligo di autorizzazione giudiziaria.

Possibile, ma più limitata, anche l’identificazione biometrica in tempo reale. Ha tratti futuristici ma che diventerà presto realtà nelle nostre città, anche grazie all’AI Act. È la possibilità di usare le videocamere per riconoscere i volti delle persone riprese in quello stesso momento (“in tempo reale”). Sarà possibile farlo per trovare persone scomparse, prevenire “una minaccia specifica, sostanziale e imminente alla vita o all'incolumità fisica di persone fisiche o di una minaccia reale e attuale o reale e prevedibile di un attacco terroristico; “la localizzazione o l'identificazione di una persona sospettata di aver commesso un reato, ai fini della conduzione di un'indagine penale, dell'esercizio dell'azione penale o dell'esecuzione di una sanzione penale per gravi reati”. Quali? Omicidio, rapina a mano armata, stupro, droga, traffico di armi tra gli altri.

Scenari incerti

Ora si gioca la partita dell’attuazione, dove si capiranno meglio gli effetti e la tenuta delle garanzie previste. “Questa legislazione rappresenta un passo importante verso un futuro digitale più equo e responsabile. Tuttavia, è essenziale gestire i rischi connessi, poiché l'avanzamento tecnologico potrebbe superare rapidamente le normative stabilite”, dice l’avvocato specializzato in digitale Marco Martorana.

"L'approvazione del Regolamento sull'Intelligenza Artificiale da parte del Parlamento europeo rappresenta una tappa fondamentale ma non conclusiva dell'iter legislativo”, aggiunge Gianluigi Marino, Head of Digitalisation, Osborne Clarke in Italia. “Si tratta di un terreno difficile sul quale si muove una tecnologia complessa e non sono mancate le prime critiche al testo che appare non sempre chiaro, anche nella sua interrelazione con altre aree della regolamentazione digitale. Per le aziende sarà cruciale investire bene questo tempo: capire come la legge sull'IA avrà un impatto sui loro prodotti e servizi, oltre che sulla catena di fornitura, e pianificare con anticipo un'adeguata risposta ai nuovi vincoli vigenti”, aggiunge.