Melissa Parke, direttrice di ICAN: “Liberiamoci dell’atomica prima che l’IA sfugga di mano”

L’ombra di Oppenheimer torna a proiettarsi sul presente, questa volta attraverso l’intelligenza artificiale.

Sia Sam Altman (CEO OpenAI) sia Demis Hassabis (CEO Google DeepMind), due degli “architetti” dell’intelligenza artificiale più noti al mondo, sono stati accostati al padre della bomba atomica: un paragone che racchiude l’ambizione di una scoperta capace di cambiare il mondo e il timore per conseguenze che potrebbero sfuggire al controllo dei suoi stessi artefici.

Quando le chiediamo che cosa pensa di questo accostamento, Melissa Parke si rabbuia e si lascia sfuggire un “Mio Dio”.

Avvocata internazionale, ex ministra australiana e oggi direttrice di ICAN, la Campagna internazionale per l’abolizione delle armi nucleari premiata con il Nobel per la Pace nel 2017, Parke guida una rete globale impegnata contro gli arsenali atomici. Oppenheimer, per lei, è il simbolo di una storia che il mondo non ha ancora chiuso. Vederne riemergere il fantasma nell’era degli algoritmi, incarnato nei protagonisti dell’intelligenza artificiale, apre uno scenario che la inquieta profondamente.

“Penso che, se questa è la prospettiva, si tratti di una visione molto cupa per il mondo e per il futuro dell'umanità”, ci dice in una delle pause del Global Nobel Laureates Assembly on Artificial Intelligence and Nuclear War, convegno che si è svolto dal 14 al 16 luglio scorso presso i Giardini Pontifici di Castel Gandolfo.

“Ciò che Oppenheimer ha innescato - aggiunge Parke - si è tradotto in oltre ottant'anni di continui danni catastrofici alle persone e all'ambiente. Non mi riferisco solo alle armi nucleari sganciate su Hiroshima e Nagasaki: gli Stati dotati di arsenali atomici hanno condotto più di duemila cosiddetti "test" su popolazioni per lo più colonizzate e indigene in tutto il mondo”.

Non si tratta, dunque, di un capitolo chiuso della storia.

Esattamente. Non è un problema di ottant'anni fa privo di rilevanza attuale. È un'emergenza assolutamente contemporanea, e l'integrazione dell'intelligenza artificiale nei sistemi militari sta amplificando questo rischio in modo esponenziale.

Vede quindi delle somiglianze tra l'era della bomba H e l'attuale fase di sviluppo di sistemi IA autonomi?

Il punto fondamentale è che l'era nucleare non è affatto finita. Ci sono dodicimila testate nucleari nel mondo, una quantità sufficiente per distruggere il pianeta molte, moltissime volte. Pertanto, ritengo che il problema centrale rimangano le armi nucleari, un pericolo che viene ulteriormente aggravato dall'intelligenza artificiale. È questa la minaccia che dobbiamo affrontare per prima. Sono d'accordo sul fatto che l'IA, se lasciata senza vincoli, rappresenti un grande pericolo per l'umanità, ma c'è un rischio contingente che esiste da oltre ottant'anni: quello dell'annientamento totale attraverso una guerra nucleare.

Come procedono i vostri sforzi per l'abolizione delle armi nucleari?

Abbiamo promosso un Trattato sulla Proibizione delle Armi Nucleari, al quale la Santa Sede è stato il primo Stato ad aderire nel 2017. Attualmente, cento Stati ne sono firmatari e parti contraenti. Si tratta della maggioranza del mondo che dichiara a gran voce: non accettiamo che le nove nazioni dotate di armi nucleari, insieme ai loro alleati, abbiano il diritto di tenere il resto dell'umanità in ostaggio di questa minaccia.

Le armi nucleari possono avere un effetto stabilizzante sulla situazione geopolitica?

È un concetto profondamente sbagliato. La deterrenza è soltanto una teoria e, alla radice stessa della parola "deterrenza", c'è il terrore. Significa governare attraverso la paura, e non credo sia questo il mondo in cui la maggior parte delle persone desidera vivere. La gente non vuole abitare una realtà plasmata dalla guerra.

Come si può smontare questa teoria?

Ciò che abbiamo visto dai recenti conflitti è che le armi nucleari, pur essendo estremamente pericolose e incredibilmente costose, si sono rivelate strategicamente irrilevanti. Non hanno garantito la vittoria militare a nessuna delle parti coinvolte e non hanno evitato la guerra. Sono semplicemente rimaste sullo sfondo, alzando vertiginosamente la posta in gioco per ogni singola decisione presa durante le ostilità. Per questo motivo dobbiamo sbarazzarci dell'attuale minaccia esistenziale che incombe su di noi: la guerra nucleare.

Le armi nucleari sono controllate da esseri umani. Il timore, però, è che in futuro questi arsenali, così come le armi letali autonome, possano essere gestiti in tandem da esseri umani e intelligenza artificiale. Il grande rischio è che le decisioni vengano prese sulla base di errori o "allucinazioni" dell'IA. Pur assodato che il cuore del problema resta l'esistenza stessa delle armi nucleari, la questione del loro controllo non rappresenta oggi un rischio inedito e forse ancora maggiore?

Non siamo certo nel mondo di Terminator, dove l'intelligenza artificiale sta per assumere autonomamente il controllo degli arsenali. Tuttavia, stiamo sentendo dagli esperti che la cosiddetta "superintelligenza" artificiale non è poi così lontana: potrebbe diventare realtà nel giro di cinque anni. E, senza dubbio, vorremmo aver eliminato le armi nucleari prima del suo arrivo.

Altrimenti, a quali scenari andremmo incontro?

Altrimenti sarà, per citare il padrino dell'IA Geoffrey Hinton, come mettere degli esseri alieni al comando di armi capaci di distruggere l'umanità. L'intelligenza artificiale rappresenta sicuramente una minaccia immensa e in rapida crescita per la nostra specie. Ma, ripeto, esiste già un pericolo imminente e tangibile che deve essere affrontato con assoluta urgenza adesso.

C'è un modo in cui l'intelligenza artificiale la sta aiutando nella sua missione?

Non c'è dubbio che l'IA offra dei benefici evidenti. Tuttavia, non esiste equivalenza tra rischi e benefici quando i rischi mettono in gioco la civiltà stessa, quando diventano esistenziali. Possiamo forse tollerare un rischio di questa portata solo perché ne traiamo qualche vantaggio? Assolutamente no.

Eppure, si cerca costantemente un dialogo per regolamentarla a livello internazionale.

Certo, sono convinta che possiamo e dobbiamo lavorare a stretto contatto con gli sviluppatori di intelligenza artificiale e con i governi per ottenere sistemi più sicuri. Questo è fattibile, ed è proprio il tema al centro degli attuali vertici globali.

Ritiene quindi che il futuro dell'intelligenza artificiale sia inseparabile da quello della pace globale e, inevitabilmente, da quello delle armi nucleari?

Sì, le armi nucleari rimangono il problema primario in assoluto. È l'intelligenza artificiale a peggiorare la minaccia, non il contrario. Pertanto, dobbiamo prima risolvere questa criticità centrale. Ovviamente, questo non significa ignorare l'IA: stiamo lavorando parallelamente per cercare di governarla e controllarla.

Quali sono le maggiori difficoltà emerse in questo tentativo di regolamentazione?

L'aspetto più spaventoso, emerso proprio di recente durante gli incontri a Ginevra, è che gli stessi sviluppatori di queste tecnologie non sanno come controllarle. Ammettono candidamente la loro incapacità di gestirle. Di conseguenza, dobbiamo riconoscere la necessità di applicare il principio di precauzione in questo ambito. L'onere della prova deve ricadere su chi afferma che l'integrazione di queste tecnologie nella società sia sicura, non sul resto dell'umanità.

L'Europa in questo momento sembra più vulnerabile in termini militari e tecnologici. Secondo lei, questo divario sulle armi e sull'intelligenza artificiale rischia di spingere il Vecchio Continente a cercare una propria autonomia di potenza, accelerando la corsa agli armamenti anziché contribuire a fermarla?

Il clima attuale in Europa è preoccupante: stiamo assistendo a una sorta di "rinascimento nucleare". Andando contro i propri obblighi ai sensi del Trattato di Non Proliferazione, molti Paesi europei e leader politici parlano apertamente della necessità di acquisire armi nucleari o di entrare a far parte di accordi di condivisione. È un atteggiamento estremamente pericoloso, che dipinge un gigantesco bersaglio. Significa che, in caso di conflitto atomico, questo continente sarebbe il primo a saltare in aria. È pura follia.

Qual è l’alternativa?

L'esperienza ci insegna che quando le nazioni lavorano insieme e si impegnano nel dialogo, tutti ne traggono vantaggio, a partire dal commercio e dallo scambio culturale. Il Trattato sulla Proibizione delle Armi Nucleari (TPNW) è un eccellente esempio di Paesi che collaborano per il bene comune.

Come sta reagendo l'opinione pubblica europea a questa spinta verso il riarmo?

Dai sondaggi che abbiamo condotto emerge chiaramente che i cittadini europei non si sentono più al sicuro grazie agli arsenali: semplicemente, non li vogliono. In Francia, che pure possiede armi nucleari, i cittadini ritengono che il Paese più sicuro del continente sia la Svizzera, che ne è del tutto priva. Penso quindi che le élite politiche siano completamente fuori sintonia rispetto alla volontà popolare. Le persone comuni desiderano solo condurre la propria esistenza in pace, senza lo spettro di un conflitto. Sono i vertici politici, i lobbisti e i think tank militari – che a mio avviso hanno molto più di "tank" che di "think" – a spingere queste agende. Ed è esattamente per questo motivo che la società civile deve farsi avanti, per alzarsi in piedi e dire chiaramente: no, noi tutto questo non lo vogliamo.

Sulla base del suo lavoro e della sua missione, qual è la lezione più importante che ha imparato riguardo alle persone che detengono il controllo sugli arsenali nucleari? C'è qualcosa che può aiutarci a capire come gestiranno l'intelligenza artificiale in futuro?

Dobbiamo sempre tenere a mente che il semplice fatto che ci siano esseri umani a controllare le armi nucleari non rende la situazione di per sé sicura. Anche gli esseri umani sono fallibili. In passato abbiamo visto figure di vertice pubblicare messaggi in cui si paventava la distruzione di intere nazioni in una sola notte, con la reale possibilità di passare all'azione. Credo che questo debba fungere da campanello d'allarme per il mondo intero: nessun piccolo gruppo di individui, e nessun singolo Paese, dovrebbe mai avere il potere assoluto di decidere le sorti dell'umanità.