La via europea all’intelligenza artificiale

Bruxelles. La stessa Ursula von der Leyen a febbraio parlando delle prossime norme europee sull'intelligenza artificiale aveva citato Yuval Noah Harari: "Gli umani sono sempre stati più bravi ad inventare nuovi strumenti che a usarli in modo saggio". Ecco perché la numero uno della Commissione Ue tra una settimana metterà sul tavolo dei governi una proposta legislativa per regolare l'Ai. Per renderla "umano-centrica", rispettosa dei valori fondamentali sui quali si basa l'Europa. Il primo continente a dare regole etiche per salvaguardare la democrazia, le libertà individuali e la privacy di fronte all'algoritmo. Del quale, certo, vede le enormi potenzialità per il genere umano e per l'economia. Ma dal quale punta a difenderci rispetto a scenari distopici, da fantascienza, che in altri luoghi sono già realtà.

L'idea è proprio di trovare una "via europea" tra l'autoritarismo digitale cinese e la totale libertà di mercato americana. Un approccio culturale - con un riflesso drasticamente pratico - che Bruxelles ha preparato con anni di lavoro e che troverà riflesso in uno dei passaggi chiave delle nuove regole: gli algoritmi nel nostro continente dovranno essere "nutriti" con dati che rispecchiano i valori europei. Se, al contrario, un sistema di intelligenza artificiale si dovesse rivelare educato con input che nascondono pregiudizi, razzismo o discriminazioni, dovrà essere azzerato ed allevato da capo, con nuovi dati. Tanto che nella bozza di 81 pagine del nuovo Regolamento Ue che la prossima settimana Bruxelles proporrà alle capitali si legge: "L'intelligenza artificiale può introdurre tecniche manipolative, può portare a dipendenza, controllo sociale e sorveglianza indiscriminata che potrebbero violare i valori europei sul rispetto della dignità umana, della libertà, della democrazia, dello stato di diritto e dei diritti umani". Al centro, invece, bisogna mettere la persona, la storia e i valori europei in quanto "l'Ai non può essere fine a se stessa".

E qui si entra nel pratico, nei contenuti della bozza del nuovo Regolamento Ue - del quale Repubblica ha preso visione - che metterà al bando potenziali scenari alla Black Mirror. Bruxelles, ad esempio, vieterà la sorveglianza di massa nei luoghi pubblici: no al riconoscimento facciale indiscriminato. Questa pratica, potenzialmente antidemocratica, discriminatoria e a rischio privacy, sarà permessa solo in casi estremi, per periodi ed estensione geografica limitati e su autorizzazione delle autorità pubbliche. Come nelle ore successive ad un attacco terroristico in stile Bataclan.

Saranno vietati anche sistemi di "social scoring", quelli già oggi impiegati in Cina per scrutinare i comportamenti delle persone nella vita reale (tramite telecamere) o in Rete per stilare una classifica sull'affidabilità poi sfruttata dalle autorità per prendere decisioni che impattano sul singolo. Attraversi con il rosso o giochi troppo con i videogames? Paghi una multa, ricevi un divieto di viaggio. O chissà, non ti vedrai assegnato un lavoro, un mutuo o una borsa di studio.

Un sistema che da noi sarà vietato in quanto "è contrario ai valori dell'Unione". Così come vietati saranno gli algoritmi che possono manipolare le persone, il loro comportamento, le loro opinioni o portare a decisioni dannose. E ovviamente saranno banditi i programmi "predittivi" che puntano a prevedere i comportamenti di gruppi di persone per modificarli prima che si verifichino: anticipare le scelte di una categoria non potrebbe che rivelarsi un calcolo fondato su pregiudizio e discriminazione (basta immaginare la predizione delle azioni di una etnia e alle misure coercitive per scongiurarle...).

Ci sono poi una serie di attività definite ad "alto rischio", non vietate ma autorizzate e monitorate da vicino dal nuovo European Artificial Intelligence Board formato da un rappresentante per ogni Paese europeo. In sostanza, qualsiasi algoritmo che possa avere un impatto sulla vita, sui diritti fondamentali, sulla salute, sull'accesso allo studio, al lavoro o al credito di un essere umano, dovrà rispettare i nostri valori etici. Parliamo dell'uso dell'Ai per valutare un curriculum, per concedere un mutuo, l'accesso ad un'assicurazione, al welfare o a un visto. Così come delle tecnologie che potrebbero guidare un giudice su una sentenza. Prima di essere autorizzati, questi sistemi dovranno passare un esame che ne certifichi il corretto funzionamento per evitare discriminazioni in base a età, razza, sesso o religione.

E qui si torna alla questione dei dati con i quali viene formata l'intelligenza artificiale: non potranno contenere pregiudizi volontari o involontari, postulati in contrasto con i valori europei, discriminatori o antidemocratici. Tanto che le Ai allevate in Europa, quindi con big data prodotti all'interno della nostra società, avranno una sorta di corsia preferenziale rispetto a quelle provenienti dal resto del mondo (per i quali lo scrutinio etico sarà più approfondito). Inoltre l'Europa vuole sfuggire a un rischio di crescente alienazione rispetto alle tecnologie, tanto che chiederà che le Ai ad alto rischio siano aperte: dovranno permettere ai cittadini, anche non esperti, di comprendere come funzionano e come prendono decisioni.

Le regole varranno per tutte le aziende, anche extra-europee, che vorranno diffondere le proprie tecnologie nel continente. Chi non le rispetterà, sarà multato fino a 20 milioni di euro o al 4 per cento del fatturato globale. Questa è la via europea al futuro perché, come ha spiegato due mesi fa von der Leyen, "nel nostro continente ci prendiamo cura dei diritti dell'individuo e dei nostri valori".