Per un’intelligenza artificiale e giusta

L’AI Act è la prima regolamentazione dell’Intelligenza Artificiale (IA), in tutte le sue differenti tecniche, fatta da un importante player come l’Unione Europea il cui percorso inizia nel 2019 e si concluderà prima della fine dell’anno. L’AI Act è un passo importante e necessario verso l’emersione e la regolamentazione di software di IA in uso da decenni presso aziende e amministrazioni pubbliche. Questo ci permetterà di minimizzare il rischio di inserire pregiudizi e discriminazioni in queste IA controllando accuratamente i dati di allenamento, di mettere in guardia gli utenti quando si interagisce direttamente con un programma di intelligenza artificiale, di essere in presenza di contenuto generato da questi programmi oltre ad avere un database che traccia tutte queste applicazioni.

Parallelamente, l’IA legata alle reti neurali complesse segna una svolta epocale verso la fine del 2022 con il lancio della nuova versione di OpenAI ChatGPT, un sistema di IA generativa ordini di grandezza più complessa dei precedenti sistemi. ChatGPT è un primo esempio di superIA, allenata con tutti i dati pubblicati on-line fino al 2021, i cui risultati hanno sbalordito tutti gli addetti ai lavori. ChatGPT spesso, non sempre, dà risposte di alta qualità rispetto ad una domanda formulata da un umano. Tuttavia la scala di questi sistemi, amplifica anche i rischi legati al fatto che la strategia con cui queste superIA raggiungono l’obiettivo (la risposta nel caso di ChatGPT) è oscura e alcune risposte potrebbero includere contenuti pericolosi per la società, tema che avevo affrontato in un recente articolo. Quindi l’interazione di un utente con una superIA va mediata da meccanismi di sicurezza (che si aggiungono a quelli di cybersicurezza legati alla penetrazione dei sistemi di IA da parte di hacker) che mirano a bloccare o mitigare risposte potenzialmente dannose. Tali meccanismi però potrebbero non scattare sempre, perché non rilevano la pericolosità di alcune risposte, o perché aggirati da malintenzionati il cui scopo è proprio avere accesso a quelle risposte. Considerato questo scenario, l’AI Act approvato dal Parlamento europeo tiene in considerazione i nuovi rischi portati da queste superIA?

Maggiore sarà la complessità delle funzioni che delegheremo alle superIA per questioni di costi e di efficienza, maggiori saranno i danni provocabili da una risposta non bloccata dai meccanismi di sicurezza. L’esempio ricorrente è legato alla produzione di disinformazione e all’impatto sulle democrazie, ma pensiamo al software. Lasciando la produzione di software alle superIA generative, ad un certo punto ci fideremo talmente della superIA che perderemo la capacità di gestire il software e potremmo non essere in grado di intervenire se la superIA inserirà, in modo intenzionale o accidentale, degli errori nei programmi dannosi per il genere umano per esempio nei software dei sistemi di guida autonoma. In un futuro che, dopo ChatGPT, gli esperti prevedono ormai tra 5 e 25 anni, le prestazioni di una superIA supereranno quelle di un umano. A quel punto potremmo addirittura non comprendere più la strategia impostata dalla superIA per raggiungere l’obiettivo. Seguendo l’esempio del software, gli errori inseriti nel programma potrebbero essere quasi impossibili da trovare anche per ottimi programmatori poiché inseriti da un superuomo con conoscenza senza limiti.

Tutti questi rischi prima di chatGPT erano un lontano orizzonte, ora si sono avvicinati pericolosamente. Una risposta definitiva a questi problemi verrà dalla ricerca quando sarà in grado di spiegare come viene generata una strategia da una superIA. Nel frattempo, per sfruttare al meglio tutto il buono delle superIA, dobbiamo pragmaticamente marcarle strette, censendole, in modo da limitare la proliferazione, verificarne la sicurezza in tutto il loro ciclo di vita dalla progettazione, all’allenamento. Controllare in modo continuo il funzionamento dei meccanismi di sicurezza durante l’operatività della superIA, per abbattere i rischi connessi. Questo lavoro non può essere solo sviluppato attraverso analisi del rischio e dichiarazioni di conformità, tipiche dell’AI Act, rilasciate dalle aziende che sviluppano le superIA, o da aziende terze, tutte guidate da logiche di mercato. C’è il bisogno di un ente istituzionale europeo iperspecializzato che controlli i rischi attraverso test indipendenti che regolarmente verifichino, durante l'operatività di questi sistemi, la copertura massima dei meccanismi di sicurezza e la loro non aggirabilità. Per questo l’AI Act va revisionato attentamente prima dell’approvazione finale, anche a costo di ritardarla di qualche mese, rispetto a come è stringente nella gestione dei rischi emersi recentemente legati alle nuove superIA generative, ai criteri di conformità imposti e alla governance di controllo. Questo anche per permetterci, come Europei, di affrontare nuove svolte tecnologiche di altre tecniche di IA con un framework flessibile e di essere quindi guida ad una regolamentazione globale dell’IA.