Ventitré ore chiusi in una stanza, con costante assunzione di bevande alla caffeina, non sono bastate. Europarlamentari, Commissione e Consiglio europeo si sono dati appuntamento venerdì alle 9 per proseguire il negoziato – in gergo si chiama Trilogo – sull’AI Act, la direttiva europea che ambisce, prima nel suo genere a livello mondiale, a dare delle regole allo sviluppo dell’Intelligenza artificiale. Dopo un pomeriggio, una notte e un mattino di discussione – e mentre Google rivela al mondo il suo ultimo modello di AI Gemini – si può dire che il lavoro verso l’intesa sia a metà. Un accordo è stato trovato sui grandi modelli di AI, come per esempio il GPT alla base del famoso ChatGPT, e sul fatto che non potranno autoregolarsi con dei semplici codici di condotta, ma saranno sottoposti a delle norme vincolanti, e sanzionabili se non le rispettano. Dove invece la discussione si è interrotta, e la quadra resta tutta da trovare, è sull’utilizzo dei potenti sistemi di Intelligenza artificiale, a cominciare da quelli di riconoscimento biometrico ed emozionale, da parte delle forze di sicurezza. Venerdì si riparte da lì, ultimo grande scoglio per siglare l’intesa definitiva che permetterebbe di varare l’AI Act entro la scadenza di questa legislatura europea. Altrimenti, chissà.
Ecco Gemini, l’IA più potente di Google: comprende la fisica e la matematica
Regole, non autoregole
Cominciamo allora dal punto in cui un accordo, per quanto provvisorio fino alla chiusura del pacchetto, c’è stato: fatto per nulla scontato vista l’evoluzione degli ultimi giorni. Riguarda le General Purpose AI, cioè i grandi sistemi linguistici così vasti e potenti da prestarsi a usi molteplici e indistinti nel momento in cui vengono sviluppati ed addestrati. Come quelli che stanno sviluppando tutti i big globali, da OpenAI a Google, a Meta. La prima versione dell’AI Act proposta dalla Commissione, che precedeva il lancio di ChatGPT, non considerava queste tecnologie, che invece il Parlamento europeo nella sua controproposta ha inserito. Il conflitto è esploso qualche giorno fa, quando i governi di Germania, Francia e Italia, preoccupati che una stretta eccessiva possa danneggiare l’innovazione in Europa, hanno fatto circolare un documento in cui affermavano che le regole vanno limitate alle specifiche applicazioni dell’AI, mentre per questi modelli basta un codice di condotta, senza sanzioni. Dietro alla posizione di Francia e Germania c’è il fatto che in entrambi i Paesi sono nate delle startup che ambiscono a fare concorrenza ai big americani, e il ministro italiano delle Imprese Adolfo Urso si è allineato a loro, nonostante il sottosegretario al Digitale Alessio Butti abbia un’idea opposta. Tant’è. Con vari scienziati e organizzazioni della società civile scese in campo per contestare la posizione dei governi, gli Europarlamentari, spalleggiati dalla Commissione, hanno fatto muro e spinto i governi ad accettare regole vincolanti.
Riconoscibilità e trasparenza
Il sistema di regole sarà a due livelli. Il primo, orizzontale, si applicherà a tutti i grandi modelli – a meno che non siano open source – e prevede tra le altre cose l’obbligo di rendere riconoscibili tutti i contenuti prodotti dall’AI, anche per contrastare truffe e disinformazione, e quello di pubblicare un riassunto sufficientemente dettagliato dei dati utilizzati per l’addestramento, nel rispetto dei segreti industriali. E’ un punto importante in tema di trasparenza ma anche di copyright, rivendicato nei giorni scorsi da vari produttori di contenuti: questa lista – il cui dettaglio andrà capito – dovrebbe permettere loro di farsi riconoscere da Big Tech un valore per i contenuti dati impasto dagli algoritmi, o magari deciderli di escluderli dalla loro dieta.
Un secondo livello rafforzato di regole si applicherà invece ai modelli “sistemici”, quelli più potenti, addestrati con una potenza computazionale al di sopra di 10 alla venticinquesima, anche se il nuovo AI Office europeo potrebbe inserirne altri. Qui l’intesa prevede l’obbligo per gli sviluppatori di condurre e rendere pubblica una valutazione dei modelli e dei loro “rischi sistemici”, anche in termini di sicurezza informatica e consumi energetici. I codici di condotta non vincolanti, alla base delle recenti intese in sede di G7 ma anche dell’ordine esecutivo del presidente Biden negli Stati Uniti, lo strumento che i big del digitale hanno detto di voler adottare anche sperando che la regolazione si fermi lì, saranno in Europa solo una soluzione “ponte”, in attesa che il nuovo AI Office definisca gli standard tecnici per le norme. Nel complesso, si può considerare una vittoria del Parlamento, anche se – come sempre – molto dipenderà dall’implementazione.
Lo scontro tra sicurezza e diritti
Ora la parte su cui il negoziato si è aggiornato, e l’intesa resta difficile: quello sulle applicazioni dell’AI vietate perché – in una legge che ragiona per livelli di rischio – pongono minacce inaccettabili, come i sistemi di scoring individuale o quelli che possono manipolare gli utenti. Il Parlamento europeo, più attento alla protezione dei diritti fondamentali, aveva molto esteso nella sua versione il campo dei divieti, per esempio ai sistemi di riconoscimento biometrico e delle emozioni o a quelli di polizia predittiva, mentre i governi – compreso quello italiano – vorrebbero un ampissimo ventaglio di eccezioni per ragioni di sicurezza. Qui il Parlamento ha già fatto un passo indietro, accettando per esempio che i sistemi di riconoscimento – in tempo reale o ex post – siano utilizzabili dalle forze di polizia in caso di crimini gravi. Ma il Consiglio sta spingendo per ottenere di più: vuole che i sistemi di riconoscimento delle emozioni, anche se vietati nelle scuole e nei luoghi di lavoro, siano utilizzabili in contesti di sicurezza e immigrazione. Vuole sia ammissibile una profilazione su caratteristiche sensibili – come razza o religione – se potenzialmente legate a dei crimini. E vuole la possibilità di utilizzare sistemi di polizia predittiva. L’obiettivo generale dei governi è chiaro: allargare il più possibile il perimetro della sicurezza, dove sarebbe libero il campo per applicare tecnologie sempre più sofisticate e senza obblighi di trasparenza, con opposti timori espressi da attivisti e avvocati per la privacy e i diritti.
Da venerdì alle 9 la maratona riparte e perché l’AI Act venga approvato qualcuno dovrà cedere, per convinzione, compromesso o sfinimento.
