Intelligenza artificiale, le regole che servono

Partiamo da una considerazione. I sistemi di Intelligenza Artificiale (IA) basati su reti neurali, come Chat-Gpt di OpenAI, vanno sviluppati senza indugi poiché possono essere un partner formidabile nel dare soluzioni in tempi rapidi a sfide epocali come il cambiamento climatico aiutandoci a costruire sistemi per produrre energia pulita o a prevenire malattie, epidemie e catastrofi.

Commercialmente saranno un'opportunità straordinaria da cogliere, pena la perdita di competitività. Come ogni svolta tecnologica, distruggerà dei posti di lavoro. Ne creerà altri. Ci si deve preparare per sfruttare al massimo questa opportunità limitando l'impatto sociale.

Premesso questo, le IA sono anche una minaccia sistemica, come recentemente affermato anche da Sam Altman, amministratore delegato di OpenAI, di fronte al Congresso americano parlando di un pericolo di sicurezza della tecnologia e chiedendone una regolamentazione. Quali sono le questioni di fondo di questa paura?

Mentre le creazioni dell'ingegno come computer, aerei o satelliti, possono essere spiegate in modo deterministico, le reti neurali complesse sono blackbox ovvero non si riesce a spiegare completamente il loro comportamento.

Negli anni '70 e '80, gli studiosi mostrarono empiricamente che sistemi formati da strati di percettroni, neuroni sintetici che mimano quelli umani, potevano essere allenati tramite un meccanismo di ottimizzazione con l'obiettivo, impostato dal programmatore, di riconoscere oggetti.

La strategia per raggiungere l'obiettivo viene imparata autonomamente dal sistema nella fase di ottimizzazione ed è occultata nella struttura dello stesso e rappresenta la parte ignota del loro comportamento. Al tempo le esigue capacità computazionali e i pochi dati a disposizione ne limitavano l'applicazione a pochi ambiti.

Il miglioramento degli algoritmi, l'aumento della potenza di calcolo e della quantità e qualità dei dati utilizzati per l'allenamento hanno ridotto progressivamente e velocemente lo scarto tra le prestazioni di questi sistemi e quelle degli esseri umani su tantissimi ambiti. Pensate, ad esempio, al confronto tra gli errori presenti nelle traduzioni automatiche di dieci anni fa e quelle attuali.

Con l'odierno trend, i sistemi di IA raggiungeranno molto presto prestazioni superiori a quelle di un umano. Questo darà l'impressione di interagire con un "superuomo" autonomo dotato di una conoscenza sconfinata.

Tuttavia la strategia con cui il superuomo arriva alla risposta è sconosciuta e potrebbe, magari in casi speciali e rarissimi, essere pericolosa. Immaginate un'auto a guida autonoma che, per arrivare a casa in orario (obiettivo) il 29 febbraio (evento raro), non rallenti mai investendo i pedoni (strategia).

La combinazione dei miglioramenti sorprendenti degli ultimi anni dell'IA - non lineari rispetto al miglioramento tecnologico - e l'inspiegabile, e quindi imprevedibile, comportamento di questi sistemi crea la paura di non riuscire sempre a garantire la sicurezza delle strategie che impiegano per raggiungere l'obiettivo. Molti guru hanno dichiarato apertamente che l'IA potrebbe minacciare l'esistenza stessa dell'umanità. Monito da prendere estremamente sul serio.

Consideriamo inoltre che queste tecnologie si basano su algoritmi ampiamente conosciuti e hanno bisogno di potenze di calcolo ormai alla portata ormai di molti paesi. Non si può escludere che uno stato o un privato possa sviluppare autonomamente dei sistemi di IA utilizzandoli con l'obiettivo di far crescere la sua sfera di influenza e destabilizzare i concorrenti.

Un'IA generativa potrebbe ad esempio hackerare i sistemi difensivi del nemico, gestire delle speculazioni finanziarie per mandare in bancarotta il concorrente oppure potrebbe creare e orchestrare un'enorme quantità di fake news credibili, dando vita a vere e proprie fake stories personalizzate dove immergere ogni cittadino - usando assistenti personali, app, robot, reti sociali e siti web - per manipolarlo verso l'obiettivo dell'IA.

La minaccia dell'IA deriva quindi dagli obiettivi impostati dall'uomo e dalla inspiegabilità delle strategie impiegate per raggiungerli. Se non si vuole rimanere indifesi - e commercialmente non competitivi - , non è possibile astenersi unilateralmente, o prendere lunghe pause, nella corsa dell'IA.

Per gestire al meglio un rischio dobbiamo avere piena cognizione della minaccia, altrimenti non riusciremo nemmeno a percepire il livello di pericolo.

La strada più razionale sarebbe quella di muoversi in fretta, con un primo processo internazionale di acquisizione della consapevolezza, seguito da impegni multilaterali, verso una normativa globale che regolamenti, i super sistemi di IA in base ai loro obiettivi e che controlli regolarmente gli algoritmi utilizzati, i dati con cui vengono allenati e le risposte fornite. Facile a dirsi, difficile a farsi anche considerando la multipolarità del contesto geopolitico attuale e la pluralità degli attori in gioco.

L'alternativa a questo percorso è però quella di costruire delle super IA che per motivi di deterrenza controbilanciano altre super IA in un wargame spaventoso dove sarebbe alta la probabilità che una IA impari, autonomamente o indirizzata da un obiettivo, una strategia dannosa per l'umanità.

Uno scenario che dovrebbe preoccupare tutti, stati democratici e autocratici, e spingere verso soluzioni comuni senza aspettare una Hiroshima dell'IA. L'Europa è sicuramente all'avanguardia avendo già mosso i primi passi regolatori, tuttavia il problema va portato immediatamente su scala globale, perché il conto alla rovescia per l'utilizzo ostile (volontario o no) dei sistemi di IA generativa è iniziato.

READ THE ENGLISH VERSION