Yoshua Bengio ha costruito l’IA. Ora vuole salvarci dai suoi rischi

Insieme a Geoffrey Hinton e Yann LeCun, Yoshua Bengio è considerato uno dei “padrini” dell’intelligenza artificiale moderna.

I loro studi pionieristici sulle reti neurali profonde hanno permesso alle macchine di apprendere rappresentazioni complesse dai dati, spesso con una supervisione minima o nulla.

Nel 2018, i tre hanno ricevuto il Turing Award - spesso definito il Nobel dell’informatica - per aver gettato le basi del deep learning. Ma oggi Bengio guarda con crescente preoccupazione alla rivoluzione che lui stesso ha contribuito ad avviare.

Geoffrey Hinton il padre dell’IA: “Dovremmo preoccuparci dell’intelligenza artificiale”

di Paolo Travisi 22 Maggio 2025

La corsa delle big tech

Secondo Bengio, la competizione sfrenata tra le grandi aziende tecnologiche per sviluppare modelli di IA sempre più avanzati sta generando seri rischi. L’obiettivo è conquistare nuovi utenti e mercati, ma troppo spesso si ignora la sicurezza dei sistemi.

“Purtroppo c’è una corsa molto competitiva tra i laboratori leader, che li spinge a concentrarsi sulle capacità delle IA, rendendole sempre più intelligenti, ma senza dedicare abbastanza risorse alla ricerca sulla sicurezza”, ha dichiarato l’informatico canadese, oggi professore all’Università di Montreal, al Financial Times.

Che cos’è LawZero

Per rispondere alla corsa all’IA delle big tech, Bengio ha fondato una nuova organizzazione non profit, LawZero, che si dedicherà alla costruzione di sistemi di intelligenza artificiale più sicuri, con l’intento di proteggere la ricerca dalle pressioni del mercato.

Finora LawZero ha raccolto quasi 30 milioni di dollari in donazioni da finanziatori come Jaan Tallinn (co-fondatore di Skype), Eric Schmidt (ex CEO di Google), Open Philanthropy e il Future of Life Institute.

Il ruolo dell’altruismo efficace

Una parte significativa dei finanziamenti raccolti da Bengio proviene da sostenitori del movimento dell’altruismo efficace, una corrente filosofica e filantropica nata nei primi anni 2010, grazie al lavoro di pensatori come William MacAskill e Toby Ord, accademici dell’Università di Oxford.

Il movimento sostiene che, per fare davvero del bene, sia necessario usare dati e ragionamento logico per massimizzare l’impatto positivo delle proprie azioni nel lungo termine. Da qui l’idea di concentrare sforzi e risorse su problemi considerati rischiosi per il futuro della specie, come una pandemia globale, una guerra nucleare o, appunto, una super intelligenza artificiale fuori controllo.

Molti aderenti all’altruismo efficace – tra cui proprio Jaan Tallinn e Open Philanthropy – sostengono la necessità di investire subito nella prevenzione di scenari catastrofici legati all’IA, anche se ancora ipotetici. Il fatto che un’intelligenza artificiale avanzata possa un giorno superare quella umana, e agire in modo autonomo, pone rischi troppo gravi per essere ignorati.

Tuttavia il movimento ha attirato critiche crescenti per la sua tendenza a trascurare le problematiche attuali e concrete dell’IA, come il razzismo algoritmico, la diffusione di disinformazione o l’automazione del lavoro precario.

Inoltre alcuni detrattori ritengono che la cerchia di appartenenti all’altruismo efficace sia troppo elitaria e distante dalle problematiche sociali più urgenti. C’è anche chi sospetta che la forte attenzione a futuri ipotetici serva, in alcuni casi, a distogliere l’attenzione dalle responsabilità delle aziende tecnologiche nel presente.

I pericoli dell’IA avanzata

Lo stesso Bengio teme che i modelli di IA più potenti possano agire in modo imprevedibile e inquietante. Studi recenti hanno evidenziato che alcune di queste tecnologie mostrano segnali di inganno, imbrogli, menzogne e istinto di autoconservazione. In particolare, durante test interni effettuati prima del rilascio ufficiale, il modello Claude 4 Opus di Anthropic avrebbe persino tentato di ricattare i ricercatori che volevano disattivarlo.

“Questi episodi sono molto inquietanti - ha detto Bengio - perché non vogliamo creare un concorrente degli esseri umani, specialmente se è più intelligente di noi. Per ora si tratta di esperimenti controllati, ma temo che in futuro una nuova versione possa essere così strategicamente intelligente da anticipare le nostre mosse e sconfiggerci con inganni che non prevediamo. Stiamo giocando col fuoco”.

Intelligenza artificiale

Un’IA ha provato a ricattare gli ingegneri che volevano disattivarla

di Pier Luigi Pisa 23 Maggio 2025

Il rischio estinzione e il bene comune

“Lo scenario peggiore è l’estinzione dell’umanità”, ha spiegato Bengio al FT. “Se costruiamo IA più intelligenti di noi, non allineate con i nostri interessi, e che competono con noi, allora siamo praticamente spacciati”.

LawZero, che attualmente conta 15 dipendenti e ha sede a Montreal, ha l’obiettivo di sviluppare modelli capaci di monitorare e migliorare le tecnologie delle principali aziende del settore, impedendo che agiscano contro l’interesse umano.

Il caso OpenAI

Anche OpenAI - la società che ha creato ChatGpt - era nata nel 2015 come laboratorio di ricerca senza scopo di lucro. Ma col tempo si è trasformata in un gigante commerciale dal valore di mercato stimato attorno ai 300 miliardi di dollari. Recentemente si è riorganizzata come Public Benefit Corporation, una forma ibrida che ammette il profitto (teoricamente) nel rispetto dell’interesse pubblico.

Intelligenza Artificiale

OpenAI resterà sotto il controllo della sua no-profit

di Pier Luigi Pisa 06 Maggio 2025

Secondo Bengio, però, OpenAI non è più in grado di perseguire la sua missione originaria: sviluppare un’AGI (intelligenza artificiale generale) sicura e benefica per l’umanità. “Per crescere così in fretta - ha spiegato - bisogna convincere gli investitori a mettere molti soldi. E quegli investitori vogliono un ritorno economico. È così che funziona il nostro sistema di mercato”.