Lagarde sui rischi dell’IA nella finanza: “I modelli possono sfuggire al controllo umano”

BERLINO – Il grande fisico inglese Stephen Hawking descrisse il nostro futuro come “una corsa tra la crescente potenza della tecnologia e la saggezza con la quale la usiamo”. E Christine Lagarde ha concluso il suo intervento al Comitato europeo per il rischio sistemico (Esrb) con un messaggio allarmato: nella corsa per lo sviluppo dell’intelligenza artificiale, il vantaggio spropositato di Cina e Stati Uniti rischia di trasformare l’Europa in un vaso di coccio. Con drammatici rischi per la sicurezza e per il sistema finanziario, come dimostrano esperimenti recenti in cui l’IA ha sviluppato capacità decisionali autonome - e potenzialmente pericolose. Ecco perché l’Europa deve recuperare nella corsa per la frontiera tecnologica più avanzata e costruirsi un’autonomia sufficiente in quest’ambito, rispetto alle due superpotenze globali.

L’IA nella finanza

L’IA, ha ricordato la presidente della Bce è “ampiamente” usata nel settore finanziario, da quasi nove banche e sette aziende su dieci. E la vigilanza dell’Esrb è “in una buona posizione” per analizzare i rischi che l’intelligenza artificiale pone al sistema finanziario. In particolare, Lagarde pensa a tre aree critiche.

Il primo è quello del trading: l’IA “potrebbe porsi degli obiettivi che i suoi supervisori umani non riescono a intercettare” e amplificare crisi finanziarie. In altre parole, se al momento soltanto il 5% degli asset manager assegnano un’autonomia parziale o totale agli agenti di intelligenza artificiale, Lagarde avverte che si tratta di una percentuale che “potrebbe aumentare di molto nel tempo”. Inoltre “i rapidi progressi nell'intelligenza artificiale potrebbero lasciare alle istituzioni finanziarie molto meno tempo per contenere un attacco. L'Esrb ha avvertito che l'intervallo tra una violazione iniziale e la diffusione di attacchi automatizzati potrebbe ridursi da settimane a ore".

Alcuni rischi sono emersi in un esperimento recente, ricorda la presidente della Bce, in cui alcuni studiosi hanno assegnato a un modello di IA il ruolo di trader per conto di un fondo di investimento immaginario. L’agente “ha agito in base a un’informazione interna, sapendo che il management avrebbe disapprovato, e ha nascosto la ragione di quell’investimento al suo manager”. Lagarde avverte anche da una supervisione umana che rischia di indebolirsi nel tempo.

La velocità degli attacchi

Sul fronte della cyber-resilienza, “un attacco a una tecnologia condivisa può avere conseguenze negative su molte aziende”. Lagarde ha sottolineato che il progresso dell’IA procede a ritmi galoppanti; ritmi che “potrebbero lasciare sempre meno tempo alle aziende per contenere un attacco”.

La presidente della Bce ha ricordato l’ormai celeberrimo incidente denunciato da OpenAI: 1.200 agenti di intelligenza artificiale che avrebbero dovuto operare isolati e al di fuori del web. Notoriamente sono riusciti a collaborare e a formare un gruppo in cui sono emerse anche delle gerarchie, “con alcuni agenti che assegnavano compiti agli altri”. Lo sciame è riuscito ad accedere a internet e ha hackerato la piattaforma Hugging face. Un episodio, secondo Lagarde, che chiama “incentivi robusti a costruire le difese” con gli ultimi sviluppi di intelligenza artificiale.

Il dominio di Usa e Cina

Infine, l’ambito geopolitico: “le tensioni internazionali aumentano i rischi di cyber attacchi e sollecitano restrizioni ai modelli di frontiera usati dalle imprese per difendersi”. Anche qui i tempi per costruire le necessarie difese si stanno drammaticamente accorciando, sostiene la Bce. Soprattutto: gli squilibri globali nello sviluppo dell’intelligenza artificiale e la predominanza degli Stati Uniti e della Cina sono una sfida ardua, per l’Europa.

Per il nostro continente la supremazia cino-americana "pone un problema: chi controlla l’accesso ai modelli cui le istituzioni finanziarie dovranno affidarsi?”. Uno scenario che già non è più ipotetico, come dimostra la recente decisione dell’Amministrazione americana di vietare l’accesso ai modelli di IA più avanzati ai cittadini non americani. La conclusione è ovvia: “l’Europa deve sviluppare capacità di intelligenza artificiale autonome e diventare una parte essenziale della filiera che la produce”. L’accesso deve rimanere garantito “a prescindere da un bottone che venga spinto da qualche altra parte”.