Il Nobel Geoffrey Hinton: “Stop allo sviluppo dell’IA. Come in Terminator potrebbe eliminarci”

LONDRA – “Fermate lo sviluppo dell'intelligenza artificiale". O almeno, “rallentate e agiamo prima che sia troppo tardi. Vi spiego perché l’intelligenza artificiale potrebbe decidere di ucciderci tutti”. A svelarlo a Repubblica è il geniale scienziato Geoffrey Hinton, 78 anni di Wimbledon e professore alla Università di Toronto, Nobel per la Fisica nel 2024 e “padrino" dell’Intelligenza Artificiale dopo il fondamentale studio del 1986 “Learning representations by back-propagating errors” insieme a Yoshua Bengio e Yann LeCun. Tre anni fa, poi, l’addio a Google, come quello recente del ricercatore di Anthropic Jacob Coxon, con la stessa motivazione: “L’AI ci sta sfuggendo di mano”.

Professor Hinton, c’è davvero almeno il 10% di possibilità, come dicono alcuni scienziati di Anthropic, che l’Intelligenza Artificiale ci stermini tutti entro la fine di questo decennio?

“Nessuno ha un metodo affidabile per calcolare questa probabilità. Perché siamo di fronte a qualcosa di assolutamente mai visto. Sinora non abbiamo mai avuto a che fare con qualcosa di più intelligente di noi, la possibilità del 10% che la razza umana si estingua [entro questo decennio] non mi sembra assurda”.

Quindi l’estinzione è davvero possibile?

"Sì. Non credo, però, che possa accadere rapidamente”.

Quanto tempo abbiamo per evitarlo?

“Beh, oggi l’IA ha bisogno delle persone per mantenere in funzione le infrastrutture. Ora, se arriviamo a una superintelligenza molto più pericolosa dei modelli attuali per cui l’IA è in grado di riprogettare sé stessa, probabilmente in 10 anni o forse meno, allora potrebbe diventare molto intelligente molto rapidamente. E probabilmente sarebbe in grado di progettare dispositivi analogici a basso consumo capaci di mantenere in funzione le centrali elettriche, installare i pannelli solari e così via, meglio di quanto possano fare le persone. Quindi, la robotica sarà presto in grado di costruire robot competenti quanto noi nel mantenere in funzione le centrali elettriche e svolgere compiti simili. Ma ci vorrà del tempo. Durante quel periodo, le macchine avranno ancora bisogno delle persone e saranno abbastanza intelligenti da rendersi conto di averne bisogno. Quindi non agiranno in modo stupido, eliminando gli umani e le persone necessarie alla loro stessa sopravvivenza. Ma alla fine potrebbero non avere più bisogno di noi. E dunque ci resterà un ruolo che potrebbe non essere particolarmente piacevole".

Lei tre anni fa mollò Google per lanciare l'allarme. Si sente rivendicato?

“Sì, certamente, ma sono saltato sul carro tardi. C’erano colleghi, vedi Shane Legg, che già dicevano lo stesso dieci anni fa. Detto ciò, lasciai Google perché avevo capito qualcosa riguardo alla capacità di questi chatbot, o “LLM" (Large Language Model), di condividere informazioni tra loro, diventare più intelligenti di noi e molto difficili da controllare. Ora abbiamo effettivamente iniziato a vedere che questa previsione si sta avverando. È davvero preoccupante, e questo non è un romanzo di fantascienza. Bisogna agire prima che sia troppo tardi”.

Lei è pessimista?

“Si. Ma sono anche ottimista, sul fatto che l’AI può rappresentare qualcosa di sensazionale, come curare il cancro, salvare l’ambiente, aumentare la produttività, rendere la vita di tutti noi decisamente migliore. Anche per questo, per gli scienziati, è così difficile fermarsi. Invece, la soluzione è proprio quella: fermarsi”.

Pensa che i grandi capi dell’intelligenza artificiale lo capiranno?

“Pensate a Musk, a Zuckerberg e a Sam Altman: sono davvero queste le persone che vorremmo al comando nel momento in cui diventa necessario rallentare un po’, per avere il tempo di capire come affrontare i rischi? E abbastanza evidente che non lo sono”.

E i politici?

“Negli anni Cinquanta gli americani collaborarono con i sovietici per prevenire una guerra nucleare, perché non faceva comodo a nessuno. Credo che alla fine, nonostante enormi pressioni, accadrà anche questa volta, su alcuni punti chiave: evitare che l’AI prenda il controllo, porre un limite agli attacchi cyber perché la tecnologia potrebbe finire nelle mani dei terroristi e così per le armi biologiche. Perché i rischi sono giganteschi. Ma c’è un’incognita”.

Quale?

“Avremo leader intelligenti per capirlo? E lo faranno in tempo?”.

Ha visto il film “Terminator” con Arnold Schwarzenegger?

“Molte volte”.

Lì accade proprio lo scenario delineato dall'ex ricercatore di Anthopic: le macchine prendono il potere e sterminano l’umanità con le armi nucleari.

“Il regista James Cameron è speso stato profetico… quel film dà molti spunti, a tutti. Stati Uniti e Russia, nonostante tutto, su questo ancora cooperano per evitare una catastrofe nucleare ed evitare che l’AI metta le mani sulla bomba atomica e i missili ipersonici”.

Ma, come in “Terminator", perché le macchine e l’intelligenza artificiale vorrebbero ucciderci?

“Molte persone pensano che questi sistemi non abbiano intenzioni proprie, ma è evidente che le hanno”.

Cioè?

"Al momento, queste intenzioni derivano dagli obiettivi che siamo noi ad assegnare loro. Per esempio, se dai a un’IA l’obiettivo di fare qualcosa, si rende rapidamente conto che non può farlo se cessa di esistere. Quindi sviluppa l’obiettivo di continuare a esistere. E non si tratta di qualcosa di innato, di qualcosa che era già incorporato nel sistema. È una conclusione a cui arriva semplicemente usando il buon senso: non puoi fare nulla se sei morto. È persino disposta a ricattare le persone per impedire loro di eliminarla. Quindi si può anche dire: “Beh, quella non è una vera intenzione. Non c’è un’interiorità. Non vive o sperimenta un’intenzione nello stesso modo in cui lo facciamo noi”. Ma questo è irrilevante. Ha l’obiettivo di continuare a esistere ed è disposta a fare cose negative pur di continuare a esistere”.

Che cosa ci attende ora?

"Credo che ci siano due possibili futuri. In uno di questi, riusciamo a capire in anticipo come affrontare le principali minacce. Se riusciamo a farlo, possiamo raccogliere i benefici dell’IA, e credo che saranno enormi, assicurandoci però non vadano tutti ai proprietari e agli azionisti delle grandi aziende tecnologiche. Dobbiamo trovare un modo affinché l’aumento della produttività venga condiviso da tutti. Bill Gates ha detto una cosa piuttosto sensata: se sostituisci i lavoratori, in pratica stai sostituendo le persone che pagano le tasse. E naturalmente le grandi aziende vorrebbero sostituire i lavoratori con l’IA, senza pagare alcuna tassa. Ma bisogna trovare un modo per tassare l’IA. Altrimenti, i governi finiranno per andare in bancarotta".

Musk ha predetto che in futuro il denaro non esisterà più.

"Sono abbastanza vecchio da ricordare quando, negli anni Cinquanta, visitai una centrale nucleare vicino a Bristol. Era una delle primissime e durante la visita ci dissero che avrebbe reso l’elettricità così economica che non avremmo più avuto bisogno dei contatori elettrici. Insomma, questa storia l’abbiamo già sentita...”.

A proposito, di Musk, quanto è alto il rischio di una nuova oligarchia hi-tech nel mondo?

“Molto alto. Musk ha già un potere enorme perché dispone di moltissimo denaro. Pensa di poter comprare l’elezione al Senato di Ken Paxton, un repubblicano del Texas, condannato per corruzione. Ma questo è il massimo della corruzione. Così, insieme alle fake news sempre più sofisticate, si mette a rischio anche la democrazia”.