Intervista a Geoffrey Hinton, padre dell'IA: “È una minaccia esistenziale all’umanità, la politica deve regolare questi modelli”

BOSTON  - Lo sviluppo dei modelli di intelligenza artificiale e la capacità di ragionare e prendere decisioni pone una "minaccia esistenziale all'umanità", per cui l'informatico Geoffrey Hinton, tra i pionieri della tecnologia, rivolge un appello a Stati Uniti e Cina, chiedendo alle potenze globali di intervenire per regolare questi modelli ed evitare che prendano il sopravvento. Hinton, che ha lasciato Google a inizio settimana, spiega per la prima volta in modo chiaro le sue convinzioni, raggiunte dopo decenni di lavoro, di fronte a una nuova consapevolezza.

Geoffrey Hinton, il "padrino" dell'Intelligenza artificiale lascia Google: "Ora posso parlare dei pericoli di questa tecnologia"

di Pierluigi Pisa 02 Maggio 2023

L'informatico non parla a una platea di retrogradi luddisti bensì in uno dei luoghi chiave dello sviluppo tecnologico occidentale, il campus del Mit a Cambridge. Per due giorni scienziati e ingegneri hanno dialogato con big tech, da Microsoft ad Amazon e Google, e con le startup più importanti della scena dell'AI, come OpenAi e Stability. Per due giorni sul palco si sono alternate visioni diverse, unite paradossalmente proprio dall'idea che fermare la ricerca, fermare lo sviluppo non possa funzionare. Anzi, quasi tutti sono convinti che proprio una regolazione caso per caso sia una risposta.

L'Europa contro il Grande Fratello: "Limiti a ChatGpt"

di Filippo Santelli 28 Aprile 2023

"Stiamo tutti fermi per sei mesi, e poi che succede? Pechino starà ferma per sei mesi?", ha chiesto l'imprenditore Tom Siebel. Gli esperti elencano i rischi dell'abuso di questi strumenti sostanzialmente in quattro aree: i cyber-attacchi che possono diventare sempre più sofisticati, le truffe sempre più credibili, la disinformazione, e la sorveglianza di massa da parte di regimi non democratici o persino da parte di democrazie deboli. Ma l'intervento di Hinton, al termine dei lavori, suona un allarme decisamente più preoccupato.
Professor Hinton, perché ha deciso di lasciare Google e ha cambiato idea sull'intelligenza artificiale?
"C'è un numero di ragioni, la prima è che ho 75 anni: è ora di andare in pensione. Ma soprattutto ho cambiato idea sul rapporto tra il cervello umano e i modelli di intelligenza artificiale. Pensavo che questi modelli lavorassero come il cervello. Invece questi grandi modelli sono in grado di sapere migliaia di volte quello che sanno gli umani. Se poi si prendono vari di questi modelli a lavorare su set di dati diversi, quello che impara uno può essere subito comunicato all'altro. Le persone non possono fare così, perché i nostri cervelli sono tutti diversi tra loro".
Perché è spaventoso?
"Perché possono imparare molto di più: immaginate per esempio due dottori: uno vede mille pazienti, un altro vede un milione di pazienti. Questi strumenti, incluso ChatGpt, sono in grado di fare dei ragionamenti. Possono essere in grado di manipolare le persone, avendo imparato tutta la conoscenza del mondo".
È possibile dare loro regole?
"Questi modelli sono in grado di scrivere da soli dei programmi. Anche se fissassimo delle regole, questi sistemi potrebbero impararle e superarle. Queste intelligenze artificiali non hanno degli obiettivi di evoluzione prestabiliti, ma prima o poi li potranno creare, se perdiamo il controllo".

La foto dell’Intelligenza artificiale che confonde la realtà

di Daniele Mastrogiacomo 03 Maggio 2023

Qual è la situazione peggiore che può immaginare?
"Penso che sia credibile che l'intelligenza umana sia una fase passeggera, sostituita dall'intelligenza digitale. C'è un serio rischio esistenziale". 
Ci sono appelli che chiedono di interrompere lo sviluppo. È giusto?
"Prendo sul serio questo rischio, dunque sarebbe sensato fermare lo sviluppo, ma è naive pensarlo: potrebbe essere razionale fermarci, ma non succederà. Google nel 2017 aveva sviluppato dei modelli che non aveva reso pubblici, ma quando OpenAi ha deciso di rilasciare questi modelli, Google non ha potuto stare ferma, in un sistema capitalistico e in un mondo in cui c'è una competizione come quella tra Stati Uniti e Cina. La mia sola speranza è che Stati Uniti e Cina trovino la forza di una cooperazione come abbiamo fatto nell'epoca nucleare".
C'è una via di uscita?
"Penso che la tecnologia possa essere positiva, ma dobbiamo migliorare la politica. Se parliamo di minaccia esistenziale dobbiamo risolverla insieme".