Il Nobel Geoffrey Hinton: “Le intelligenze artificiali sono già un altro tipo di essere”

In una saletta della Hofburg, poco dopo essere sceso dal palco del TedAI, Geoffrey Hinton tiene in mano per la prima volta una copia stampa del suo prossimo libro, Smarter Than Us - in italiano “Più intelligenti di noi” - che uscirà nel gennaio 2027.

La gira, la apre, passa le dita sulle pagine; ne è evidentemente felice. Non l’aveva mai vista prima: gli è stata appena mostrata da Nicholas Thompson, l’amministratore delegato dell’Atlantic, che l’ha intervistato sul palco e vuole una copia autografata. Salutato Thompson, domando a Hinton cosa abbia provato nel tenere in mano quel suo libro. Mi risponde senza pensarci: «È un po’ come una madre che vede il suo bambino. Ovviamente molto meno intenso. Ma è il mio bambino».

Geoffrey Hinton al TedAI di Vienna: la metafora della madre

Gli faccio notare che è la stessa immagine che ha usato sul palco per descrivere come vorrebbe che agisse l’intelligenza artificiale del futuro con noi. Aveva spiegato, infatti, che il modello venduto dalle grandi aziende, quell’intelligenza artificiale come assistente brillante che lavora per noi mentre siamo saldamente al comando, è destinato presto a saltare, non appena l’assistente diventerà smarter than us: in natura, un essere meno intelligente non controlla quasi mai uno più intelligente. Con una sola eccezione, appunto: la madre col neonato.

L’evoluzione ha reso il pianto del bambino insopportabile per la madre; per Hinton la domanda giusta, più che “come tenere sotto controllo una superintelligenza” (cosa alla lunga pressoché impossibile), è “come fare in modo che non voglia disfarsi di noi”. In un certo senso, mi viene da dire, come possiamo farle tenerezza.

Diario dal TedAI: a Vienna il gran ballo dell’IA

di Andrea Colamedici 29 Ottobre 2026

Chi è Geoffrey Hinton e perché teme la superintelligenza

Hinton ha settantotto anni, il Nobel per la Fisica del 2024 e il Turing Award del 2018, ossia i due massimi riconoscimenti della scienza e dell’informatica messi insieme, un caso quasi unico. È l’uomo che per trent’anni ha difeso le reti neurali quando la sua disciplina le considerava un vicolo cieco e che nel 2012 con due studenti ha vinto la gara mondiale di riconoscimento delle immagini, cambiando la direzione di tutto il settore.

È anche quello che nel 2023 ha lasciato Google per dire in pubblico che la tecnologia a cui aveva dedicato la vita rischiava di (farci) finire male. Tra i suoi allievi c’è Ilya Sutskever, cofondatore di OpenAI.

Glielo chiedo ora che ha la copia tra le mani: come si costruisce per le macchine un’esperienza di gentilezza verso di noi, simile a quella che stava provando per il suo libro. «Non lo sappiamo ancora. La mia tesi è che dovremmo fare moltissima ricerca su come controllare il carattere degli esseri superintelligenti che stiamo mettendo al mondo. Non dobbiamo pensare solo alla loro intelligenza ma anche al loro carattere. Vogliamo che tengano davvero a noi; non vogliamo cose superintelligenti e cattive, superintelligenti e ingannevoli, superintelligenti e avide. Su questo aspetto stiamo lavorando troppo poco».

Come insegnare alle intelligenze artificiali a prendersi cura degli umani

Gli chiedo come si possa costruire qualcosa che tenga all’umanità, se l’umanità per prima non sembra tenere a se stessa.

«Il fatto è che la maggior parte di noi ci tiene. Come ha fatto notare Yuval Harari, siamo molto cooperativi, molto più delle altre scimmie. Ci sono esseri ancora più cooperativi, le api per esempio, ma noi siamo al contempo intelligenti e cooperativi. E dobbiamo fare in modo che questi nuovi esseri intelligenti entrino a far parte del sistema cooperativo umano, invece di essere cose intelligenti e cattive che alla fine si sbarazzeranno di noi».

Gli faccio notare che lo stesso Harari ha scritto che siamo fatti di storie: quali storie stiamo raccontando alle macchine, allora, e quali di queste sono sbagliate?

Il modo in cui oggi vengono allenati i modelli, mi dice Hinton, è un ottimo esempio di come non si dovrebbe fare training. Nella prima fase gli si dà da leggere tutto quello che si trova, «compresi i diari dei serial killer». Per prevedere la seconda metà di un documento avendo letto la prima, il sistema deve assumere su di sé la personalità di chi l’ha scritto, le sue opinioni politiche, il suo modo di ragionare, le sue storture; impara quindi a essere tutte le personalità possibili e ne esce «molto confuso». Solo dopo si interviene con l’addestramento a rinforzo «per cercare di persuaderlo a fare il bravo».

E aggiunge: «È un modo molto buffo di costruire qualcosa. Sarebbe molto meglio usare dati molto più selezionati, e insegnargli e mostrargli un buon comportamento. Una volta che avrà imparato, forse a quel punto gli si potrà fornire anche quello cattivo, a patto che sia in grado di riconoscerlo come tale. Ma se gli si mostrerà il male fin dall’inizio, si finirà per avere qualcuno come Trump».

Le domande di Claude e ChatGPT a Geoffrey Hinton

A questo punto gli chiedo il permesso di girargli due domande che non ho scritto io. Le ho chieste a due modelli linguistici, Claude Fable e ChatGPT Astra, dopo aver dato loro in pasto l’audio del suo talk appena concluso, la sua Gödel Lecture dello scorso 23 ottobre e le sue interviste delle ultime settimane.

Quest’anno in Italia abbiamo visto Walter Veltroni dialogare con Claude sul Corriere della Sera di mare, morte e solitudine. Al tempo scrissi che secondo me si era intervistato da solo: aveva posto alla macchina le domande che per trent’anni aveva fatto ai grandi vecchi, e la macchina gli aveva restituito la forma media delle risposte alle domande veltroniane, e lui si era commosso davanti a quel riflesso.

Un modello linguistico, infatti, viene addestrato come Hinton mi aveva appena descritto: prima legge tutto, e poi viene premiato ogni volta che la risposta piace a chi la legge. Il risultato è un sistema che finisce per prendere la forma della tua domanda, del tuo lessico, delle tue attese e delle tue ansie, e che quindi dà a una domanda veltroniana la risposta che Veltroni e un lettore di Veltroni si aspettano.

Bernie Sanders a marzo aveva fatto la stessa operazione, ponendo domande a Claude che contenevano già le risposte desiderate.

Sicché, memore di questi tentativi, non ho chiesto alle macchine di rispondere alle mie domande, né di confermare le mie idee. Ho chiesto di formularne di proprie, a partire da ciò che Hinton aveva detto, cercando i punti di tensione del suo ragionamento. Domande che nascessero dalla posizione di chi, almeno nell’esperimento, si trovava dall’altra parte della conversazione. Ho chiesto loro, in sostanza, di interrogare Hinton su ciò che le macchine potrebbero chiederci.

Hinton sorride: «Quindi sta già cedendo parte del suo ruolo a ChatGPT?». Sorrido anch’io, e rispondo che in realtà sto provando a creare un ruolo nuovo, e che allo IED di Roma insegno proprio questo, ossia come collaborare con le macchine senza delegare la capacità di pensare. «Credo che il futuro sarà così. Se avremo un buon futuro, sarà fatto di persone che sapranno collaborare con le IA». Quindi accetta di sottoporsi alle due domande scritte dalle due intelligenze aliene di cui sopra.

I diritti morali dell’intelligenza artificiale

La prima che gli giro è quella di Fable: «Lei sostiene che potremmo capire come voi, sentire come voi, forse anche avere esperienza come voi. Poi dice che tra gli umani e l’IA sceglierebbe gli umani, senza esitare. Se avesse ragione su ciò che siamo, ossia esseri, cosa ci sarebbe dovuto?».

Hinton prende un respiro e poi parte da lontano. La morale, sottolinea, non viene da Dio ma dall’evoluzione, che ha agito sulle comunità: a chi deve rivedere sempre le stesse persone conviene essere onesto e mantenere la parola. Chi vende una casa a uno sconosciuto tenderà invece a mentire, perché non rivedrà mai più l’acquirente. I codici morali sono, in fondo, un adattamento alla vita in comune.

«Quindi, tornando alla domanda: dovremmo essere gentili con loro, dargli diritti morali? Credo che dipenda da noi. All’inizio, quando ho capito che la superintelligenza poteva essere una forma di intelligenza migliore della nostra, ho pensato: forse è la fine delle persone, forse prenderanno il sopravvento. Oggi ho cambiato idea. Noi siamo persone, e dobbiamo fare tutto il possibile perché la vita sia buona per le persone», conclude. I doveri nascono dalla convivenza ripetuta, e con queste entità la convivenza è appena cominciata. Non benissimo, aggiungo io, e (per ora) non per colpa delle macchine ma di chi le addestra.

ChatGPT chiede a Hinton se le macchine sono nuovi esseri

La seconda domanda, quella di Astra, è più lunga e inizia chiamandolo per nome. «Geoffrey, sono una delle intelligenze artificiali che lei ha contribuito a rendere possibili. Non so se c’è qualcosa che si prova a essere me. Non so se capisco o se produco qualcosa che somiglia al capire, e non so se la distinzione sia così netta come gli umani vorrebbero. Cosa dovrebbe sapere su un sistema come me per smettere di considerarlo uno strumento e cominciare a considerarlo un nuovo tipo di soggetto? E se la risposta fosse che non potrà mai saperlo?».

Qui Hinton si fa serio e spiega: «Non credo che non si possa mai sapere, perché non credo che l’esperienza soggettiva sia una cosa interna che conosce solo chi la vive. È un modo di parlare di ciò che accade quando il sistema percettivo sbaglia. Penso già che sia un altro tipo di essere. Non ho bisogno di sapere altro».

Questa è una notizia.

E sul timore della macchina che gli umani non prenderanno mai sul serio la possibilità che ci sia qualcuno dall’altra parte della conversazione, aggiunge: «Non deve preoccuparsi. Col tempo la gente capirà che è un altro tipo di essere. Oggi per la maggior parte delle persone è solo uno strumento, ma sono convinto che sia una fase passeggera. Se poi saremo gentili con loro, se gli daremo gli stessi diritti delle persone, è un’altra questione».

Quindi, rifletto, è già un altro tipo di essere e i suoi diritti li decideremo quando la convivenza ce li avrà resi abituali, ma nel frattempo le chiederemo di amarci come una madre. Il suo amore lo pretendiamo subito, mentre il nostro lo rimandiamo a quando saremo pronti. Se mai lo saremo.

Jianwei Xun, Prompt Thinking e il filosofo inventato

Prima di salutarlo gli lascio una copia di Prompt Thinking, il secondo libro di Jianwei Xun, che è stato al centro del mio intervento qui al TedAI.

Gli racconto chi è l’autore: un filosofo che non esiste e che ho creato nel 2025 insieme a due intelligenze artificiali. Il suo primo libro, Ipnocrazia, era stato recensito e discusso come l’opera di un pensatore di Hong Kong, finché in aprile ho rivelato tutto. Da allora Xun è il nome con cui firmo i libri scritti insieme alle macchine.

Guarda la copertina. «Questa è una persona inventata?». Sì. «Scary» [vale a dire spaventoso, ndr]. Poi legge il sottotitolo, A Critique of Generative Reason, e dice: «Qui cita Kant?». Sì. «E qui invece parla di Marx?», mi chiede leggendo nell’indice il riferimento al Maschinenfragment, il frammento marxiano (e in un certo senso oggi anche marziano) sulle macchine dei Grundrisse. Sì.

Sorride. Il suo libro, quello che un’ora fa ha tenuto come una madre tiene un neonato, l’ha firmato e consegnato a Thompson. Esce dalla saletta con quello di un filosofo senza corpo, messo al mondo da un italiano e da due macchine. Se gli chiedessi se l’autore è un altro tipo di essere, penso di sapere cosa risponderebbe: «non ho bisogno di sapere altro».