Turk: “Diritti umani a rischio, serve una Yalta per governare l’evoluzione della tecnologia”

Le aziende che la stanno costruendo chiedono di rallentare, i governi che dovrebbero tutelare i cittadini tergiversano, l’opinione pubblica è smarrita: l’Intelligenza artificiale può davvero distruggere l’umanità? E se è così, perché nessuno fa niente? La scorsa settimana, Volker Turk, l’Alto commissario per i diritti umani delle Nazioni Unite, ha preso carta e penna e ha scritto una lettera agli Stati e alle big tech: l’IA può comportare «rischi esistenziali» per l’umanità, avverte, servono regole e subito. All’assemblea generale dell’Onu che si apre la prossima settimana a New York, questo sarà un tema cruciale.

Perché adesso questo allarme?

«Chiediamo da anni che lo sviluppo, la progettazione, l’utilizzo e la diffusione degli strumenti di intelligenza artificiale siano guidati da un quadro basato sui diritti umani. Ora l’IA di frontiera, l’IA generativa, si sta sviluppando a una velocità tale che i modelli possono persino sfuggire al controllo di chi li crea. L’industria ha delle responsabilità, non può sottrarsi in nome del profitto o dell’innovazione. Non parlo solo di etica e standard di sicurezza: parlo di diritti umani. E gli Stati membri, i governi, hanno l’obbligo di garantirne il rispetto. Abbiamo bisogno di trasparenza e di un monitoraggio indipendente».

In che modo l’IA minaccia i diritti umani?

«Innanzitutto in guerra, dove l’impiego dei droni è sempre più sofisticato. Da tempo chiediamo il divieto delle armi letali autonome. Deve esserci un controllo umano sulle armi».

Stati Uniti, Cina e Russia non vogliono limiti significativi all’uso dei cosiddetti killer robots.

«È vero, ma dei passi avanti sono stati fatti verso la definizione di un quadro di regole. Quando aumenta la pressione sociale, anche quei Paesi sono costretti ad ascoltare. La minaccia per i diritti umani esiste anche su altri piani. Il nostro sistema bancario, i trasporti: l’intero mondo dipende dalla tecnologia che viene gestita sempre più attraverso l’IA. Se si arrivasse ad agenti di IA capaci di penetrare questi sistemi con decisioni e capacità autonome, la situazione potrebbe sfuggire di mano e portare al collasso del sistema bancario o di quello alimentare».

Cosa rischiano le democrazie?

«La tecnologia in generale riflette i pregiudizi, le discriminazioni e le disuguaglianze presenti nella società. I pregiudizi di genere, razziali, a volte anche le discriminazioni nei confronti delle minoranze e dei bambini possono essere amplificate dall’IA, che può impattare sullo spazio democratico e sulla coesione sociale, utilizzata durante le elezioni per manipolare i fatti e la realtà. I diritti umani riguardano tutto ciò».

Invoca un maggiore controllo pubblico sulle big tech?

«Qualsiasi concentrazione eccessiva di potere è un pericolo. Parliamo di aziende che dispongono di budget superiori a quelli di alcuni Stati e hanno strutture di governance interne poco trasparenti. Servono verifiche indipendenti. Sono stato nella Silicon Valley, ho parlato con alcune di queste persone e ho avuto l’impressione che vivessero in una bolla. Cosa sanno di come gli strumenti che stanno sviluppando verranno utilizzati in Paesi che vivono in estrema povertà, o dove c’è una guerra, o che hanno approcci diversi a questo tipo di tecnologia? In Myanmar una campagna d’odio sui social media è diventata virale prima dell’espulsione dei Rohingya. Lo stesso è accaduto in Etiopia durante la guerra».

Come si può costruire una governance globale dell’IA?

«È possibile, anche se qualcuno ha interesse a far credere che non lo sia, come è successo in passato con altre industrie. Negli anni Sessanta l’industria del tabacco finanziava pubblicità in cui si diceva alle donne incinte che fumare le avrebbe tranquillizzate. Oggi sarebbe impensabile. Spero che la prossima settimana all’Assemblea generale delle Nazioni Unite ci sia un forte appello per un vertice internazionale che discuta un sistema di governance dell’IA fondato su trasparenza, misure di mitigazione dei rischi e supervisione indipendente».

Una Yalta dell’IA?

«Esattamente».

Cina e Stati Uniti sembrano andare in tutt’altra direzione: competono per arrivare primi.

«Durante la Guerra fredda c’è stata una situazione simile sul nucleare tra Unione Sovietica e Stati Uniti, ma è stato possibile raggiungere un accordo. Può accadere solo se c’è pressione da parte delle società».

Quanto potere hanno realmente le Nazioni Unite per favorire questo processo?

«So che è diventato di moda attaccare l’Onu, ma siamo l’unica organizzazione universale legittima. Abbiamo un’incredibile capacità di riunire gli attori coinvolti e l’esperienza dei negoziati diplomatici. Soprattutto: la società è dalla nostra parte».