Geoffrey Hinton, il "padrino" dell'Intelligenza artificiale lascia Google: "Ora posso parlare dei pericoli di questa tecnologia"

Ora sono due su tre. Dopo Yoshua Bengio, firmatario di una petizione che ha chiesto uno stop di sei mesi allo sviluppo dell'intelligenza artificiale, anche Geoffrey Hinton si dice spaventato dai progressi di questa tecnologia. Al punto da lasciare Google, dove lavorava da dieci anni, per poter denunciare liberamente i rischi cui sta andando incontro l'umanità.

Bengio e Hinton sono considerati i "padrini" dell'IA. E se sono preoccupati loro, forse dovremmo esserlo anche noi. I due scienziati, insieme al francese Yann LeCun (capo dell'IA di Meta), hanno ricevuto nel 2018 il Turing Award - in pratica il "Premio Nobel dell'informatica" - per le loro scoperte nel campo del deep learning. Il loro lavoro sulle reti neurali e sull'apprendimento automatico è alla base delle moderne intelligenze artificiali, chiamate generative per la loro capacità di esprimersi come un essere umano.

L'esempio più noto è ChatGpt, sviluppata da OpenAI. "Ma queste cose - ha detto Hinton alla rivista MIT Technology Review qualche giorno prima di dimettersi da Google - sono estremamente diverse da noi". "A volte penso che è come se degli alieni fossero arrivati sulla Terra - ha aggiunto - e le persone non se ne fossero accorte perché parlano troppo bene l'inglese". Hinton usa l'ironia ma è fortemente preoccupato. L'uomo reso famoso e rispettato dai suoi studi sulla retropropagazione dell'errore, un algoritmo che consente alle macchine di imparare, è arrivato a pentirsi del lavoro che ha fatto negli ultimi quarant'anni.

E al New York Times ha detto: "Mi consolo con la solita scusa: se non lo avessi fatto io, sarebbe toccato a un altro". Fino a poco tempo fa, Hinton credeva che le macchine avrebbero impiegato almeno 30 o 50 anni per raggiungere e superare l'intelligenza umana. "Ora non ne sono più convinto" ha affermato - senza più freni contrattuali - lo scienziato. Ora, secondo Hinton, i tentativi continui di replicare il funzionamento della mente umana hanno condotto a qualcosa di "spaventoso", a un "capovolgimento improvviso".

"Il nostro cervello ha cento trilioni di connessioni - ha detto l'accademico 75enne alla MIT Technology Review - . I modelli linguistici di grandi dimensioni (su cui vengono addestrate le IA come ChatGpt, ndr) ne hanno invece al massimo un trilione. Tuttavia Gpt-4 (il modello linguistico più avanzato di ChatGpt) ha una conoscenza di gran lunga superiore a quella di una persona in carne e ossa. Quindi, forse, in realtà ha un algoritmo di apprendimento migliore del nostro". Parlando con la Bbc, Hinton si è spiegato ancora meglio: "Questi sistemi digitali - ha detto - si basano su molteplici modelli che possono imparare separatamente ma che, poi, possono condividere la loro conoscenza istantaneamente. È come se avessimo 10.000 persone e una di queste potesse trasferire, in un attimo, tutto ciò che ha imparato alle altre". Questa capacità, tuttavia, non rende ancora le IA più intelligenti di noi.

"Ma vista la velocità con cui progrediscono - ha affermato Hinton - presto potrebbero diventarlo". E le conseguenze, secondo lo scienziato, sarebbero disastrose. Specie se una tecnologia così potente fosse usata nel modo sbagliato. "Pensate a cosa accadrebbe se Putin fosse in grado di dare ai suoi robot la possibilità di decidere da soli i loro obbiettivi" ha detto Hinton. Le armi autonome preoccupano lo scienziato da tempo: "Penso che dovrebbe esistere una specie di Convenzione di Ginevra che le vieti, come avviene per le armi chimiche" ha dichiarato a Wired nel 2018. Al di là degli armamenti, una risposta legislativa all'escalation dell'IA è necessaria. "Sono i Governi che devono stabilire le linee guida - ha detto recentemente Bengio - non l'industria che guadagna dall'intelligenza artificiale".

L'Europa proprio in questi giorni sta portando in aula l'AI Act, uno dei primi testi al mondo che intende regolamentare l'uso dell'intelligenza artificiale. "Non è importante che il testo sia perfetto - spiega Barbara Caputo, professoressa di intelligenza artificiale al Politecnico di Torino - basta che arrivi il prima possibile perché il tempo stringe". Le parole di Hinton, a questo proposito, dovrebbero invitare a spingere sull'acceleratore. "Lui dice di non essere certo che la corsa dell'IA si possa fermare. Forse ha ragione, forse il genio è davvero uscito definitivamente dalla lampada - aggiunge Caputo -. Ma io credo che questo fenomeno si possa ancora governare. Per due motivi. Il primo è legato alla recente azione del nostro Garante nei confronti di ChatGpt. Queste IA sono potenti perché usano i nostri dati. Dati che non si possono usare senza il nostro consenso. E se difendiamo questo punto, lo sviluppo dell'IA generativa avrà dei vincoli. Il secondo motivo riguarda la gestione di questi dati. Non tutti, nel mondo, hanno capacità computazionali adeguate ad addestrare le IA. E chi può farlo è facilmente identificabile".

In ballo non ci sono solo la disinformazione e le foto fake di politici e celebrità che stanno dilagando sul web. Per Hinton c'è in palio la nostra stessa sopravvivenza. Altrimenti non avrebbe concluso la sua conversazione con il New York Times usando le parole attribuite a Robert Oppenheimer, il fisico americano che contribuì alla creazione della prima bomba atomica: "Quando vedi qualcosa di tecnicamente valido, vai avanti e lo fai. Solo dopo discuti cosa farne".