Gary Marcus, il feroce critico dell'IA generativa: “Non fidatevi di Sam Altman. OpenAI è nei guai”

Ogni mattina Gary Marcus apre la posta e trova il disastro. Una decina di notizie arrivate durante la notte dal mondo dell'intelligenza artificiale, ciascuna abbastanza grave da meritare un articolo.

Ma scriverli tutti significherebbe perdere i lettori, così Marcus ne assegna uno per volta a una scala di gravità, da uno a dieci, e commenta soltanto quelli che toccano il massimo. È una cernita che si ripete ogni giorno, davanti allo schermo, e a lungo andare stanca.

Marcus è uno dei critici più feroci dell'intelligenza artificiale generativa, e la sua è una voce difficile da liquidare. Scienziato cognitivo e professore emerito di psicologia e neuroscienze alla New York University, ha fondato una società di machine learning poi acquisita da Uber nel 2016. Parla di "allucinazioni" dei modelli, le loro risposte inventate di sana pianta, dal 2001.

Nel maggio del 2023 ha testimoniato al Senato degli Stati Uniti seduto accanto a Sam Altman. Tra i suoi libri, da Rebooting AI a Taming Silicon Valley, e la newsletter Marcus on AI, porta avanti da anni una tesi controcorrente: la strada per un'IA affidabile passa da sistemi ibridi, capaci di unire le reti neurali alla logica formale, e non dal solo potenziamento dei chatbot.

Lo incontriamo in territorio vaticano, in occasione della Global Nobel Laureates Assembly on Artificial Intelligence and Nuclear War, dove è arrivato dopo aver apprezzato il messaggio di papa Leone XIV, che nel 2026 ha dedicato all'intelligenza artificiale la sua prima enciclica, Magnifica Humanitas, invitando addirittura a "disarmarla". Una cornice adatta per chi, ogni giorno, prova a spingere questa tecnologia su una strada più sana.

Ed è da qui che partiamo.

È così faticoso vestire ogni giorno i panni del critico dell’IA?

Direi innanzitutto di essere il critico più importante dell'intelligenza artificiale generativa. Penso che l'intelligenza artificiale in sé, in una sua futura versione, potrebbe in realtà rivelarsi molto utile per l'umanità. Infatti, alcuni sistemi ibridi come AlphaFold [il sistema di Google DeepMind capaci di predire con alta probabilità di successo la struttura delle proteine, ndr] si sono dimostrati piuttosto validi. Sono propriamente i chatbot che non mi piacciono. E sì, è una posizione faticosa. Sono stati follemente sopravvalutati, la loro economia non ha senso e non sono ancora affidabili. Le persone che gestiscono queste aziende, in molti casi, non sono mosse da buone intenzioni: hanno sfruttato artisti e scrittori. È stancante dover far notare in continuazione tutti questi problemi.

Eppure continua a farlo con grande dedizione.

Vorrei che l'intelligenza artificiale si fosse sviluppata lungo un percorso migliore, e credo ancora che sia possibile. Per questo continuo a fare ciò che faccio, cercando di spingere verso una direzione più sana. Tuttavia, è stata investita così tanta energia in questo percorso folle che la situazione risulta estenuante.

Il problema oggi, quindi, riguarda la tecnologia, la narrazione che se ne fa o la capacità dei modelli?

Direi che l'intelligenza artificiale di cui disponiamo oggi è inadeguata sia moralmente che tecnicamente. Le inadeguatezze tecniche risiedono nel fatto che i sistemi attualmente in uso sono, fondamentalmente, predittori statistici della parola successiva. Non possiedono una reale comprensione del mondo e, di conseguenza, non sono affidabili, ma soffrono di "allucinazioni". Per anni mi è stato assicurato che queste allucinazioni sarebbero scomparse. Ne ho parlato per la prima volta nel 2001, quindi sono venticinque anni che mi sento ripetere la stessa promessa, ed è normale a un certo punto diventare scettici.

Ma perché è così difficile risolvere il problema delle allucinazioni?

Conosco il loro funzionamento e so che mancano delle basi necessarie per evitarle: non hanno modelli del mondo integrati. Si può cercare di aggiustarli alla meno peggio, in modi spesso inaffidabili, ma avere un modello strutturato del mondo, di ciò che è stato detto e del contesto, è una prerogativa dell'intelligenza artificiale simbolica, non delle reti neurali. Per questo motivo ho sempre sostenuto la necessità di sistemi ibridi. In ogni caso, i sistemi attuali si rivelano tecnicamente inadeguati. A questa inadeguatezza tecnica è associata una profonda inadeguatezza morale”.

In che modo si manifesta?

Per esempio, se hai un sistema che non può essere fondato sui fatti (e questi modelli possono essere statisticamente correlati ai fatti, ma non vi sono realmente ancorati), significa che può essere facilmente sfruttato per la disinformazione. È molto facile far scrivere loro delle bugie e, come sappiamo, eccellono nell'imitare gli stili umani. Un sistema bravo a imitare l'essere umano ma incapace di comprendere i fatti è il sogno di chiunque voglia creare propaganda. Questo è un chiaro esempio di inadeguatezza morale che deriva da un'inadeguatezza tecnica.

E per quanto riguarda l'allineamento dei modelli ai nostri valori? Non esistono già delle salvaguardie?

A un livello più ampio, l'inadeguatezza tecnica principale è che non abbiamo alcun modo di allinearli ai valori umani, e ciò significa che possono essere impiegati persino per il crimine informatico. Si potrebbero immaginare sistemi – e penso che Anthropic ci abbia provato – allineati ai valori umani per evitare queste derive, ma le loro difese sono così superficiali da risultare facilmente manipolabili, per usare un termine tecnico. Tutte le salvaguardie implementate attualmente non funzionano; ci sono moltissimi utilizzi malevoli dell'intelligenza artificiale generativa che non possono essere arginati, proprio perché i sistemi sono tecnicamente limitati.

E per quanto riguarda l'approccio di chi sviluppa questi modelli verso il lavoro altrui?

C'è anche una nota a margine essenziale: le persone che programmano questi sistemi hanno deciso di appropriarsi della proprietà intellettuale di artisti e scrittori, per poi chiedere l'esenzione dalle leggi sul copyright. È una scelta che avrebbero potuto evitare. Essendo aziende capitalizzate per trilioni di dollari, avrebbero potuto dimostrarsi più generose. Invece, si scopre che alcune delle persone meno generose del pianeta stanno guidando lo sviluppo dell'intelligenza artificiale. Quando ho iniziato a lavorare in questo campo, da ragazzino, quarant'anni fa, il settore era dominato da scienziati desiderosi di risolvere il problema del rapporto tra intelligenza e macchine. Oggi, invece, è dominato da persone interessate solo a fare soldi e a cui, in fondo, non importa del resto.

Anche gli imprenditori e gli innovatori si dimostrano inadeguati in certi casi? La domanda ricorrente è: possiamo fidarci di Sam Altman?

La risposta è facile: no, non ci si può fidare di Sam Altman. Ho scritto un articolo al riguardo sul Guardian qualche anno fa, forse un po' in anticipo sui tempi, dato che allora era ancora molto popolare. Quando, nel maggio del 2023, ho testimoniato al suo fianco davanti al Senato degli Stati Uniti, inizialmente mi aveva quasi convinto. Poi, però, è emerso che aveva semplicemente inquadrato la situazione: diceva ciò che io e i senatori volevamo sentire, ma senza crederci affatto.

In che modo si è contraddetto?

Ha mentito sulla sua quota in OpenAI, nascondendo di avere un capitale indiretto. Ha dichiarato di essere a favore della regolamentazione dell'intelligenza artificiale, per poi fare pressioni sull'Unione Europea affinché indebolisse l'AI Act. Alla fine, ho capito che quasi tutto ciò che ha affermato seduto accanto a me, sotto giuramento, non era vero. Forse dire "tutto" è un'esagerazione, ma una gran parte delle sue dichiarazioni si è rivelata falsa.

L’anticipazione

“Valeva la pena tentare”, nel libro sulla storia di OpenAI l’incontro tra Sam Altman e Steve Jobs

a cura di Redazione Italian Tech 24 Settembre 2025

E che dire di Dario Amodei? È un altro innovatore di cui conosciamo quasi esclusivamente la prospettiva offerta dai pochi media con cui decide di parlare.

Non lo conosco bene quanto Altman. Credo che Dario abbia imparato da Elon Musk il trucco di parlare solo con giornalisti a lui favorevoli, evitando per lo più quelli scettici, sebbene di recente abbia rilasciato un'intervista a John Thornhill del Financial Times. Detto questo, direi che Dario si preoccupa dell'umanità più di quanto non faccia Sam. Quando Altman parla di avere a cuore le sorti dell'umanità, penso sia solo una posa; in Dario, invece, credo ci sia una componente di genuinità.

Possiamo quindi considerarlo una figura più rassicurante?

Fino a un certo punto. Anche lui gioca la carta del clamore, esagerando le capacità dei suoi sistemi per far salire le valutazioni dell'azienda, per quanto mi risulta. Sotto molti aspetti, ritengo abbia assimilato diverse cattive abitudini da Sam, avendo lavorato per OpenAI prima di andarsene a fondare la sua società. Se dovessi scegliere tra i due sceglierei Dario, ma non è una scelta che mi lascia del tutto tranquillo.

Demis Hassabis ha recentemente proposto che i modelli più avanzati vengano sottoposti a test prima di essere rilasciati. Se non sbaglio, anche lei ha scritto a lungo sull'importanza di questi "test pre-flight". Ci spiega come una supervisione indipendente potrebbe prevenire futuri rischi sistemici?

Sì, è un'idea che suggerisco da anni. Quello che non vogliamo assolutamente, e spero che la proposta di Demis non si trasformi in questo, è che le aziende inventino le regole e i governi si limitino ad approvarle. È essenziale che ci sia una supervisione indipendente sia nella stesura delle regole, sia nella loro applicazione. Guardando alla Food and Drug Administration negli Stati Uniti, non accetteremmo mai che siano le aziende farmaceutiche a dettare le norme; finirebbero per minimizzare gli effetti collaterali. Servono scienziati indipendenti in grado di valutare obiettivamente se, ad esempio, un ottimo antidolorifico causa però danni al cuore. Abbiamo bisogno della stessa cautela in questo ambito.

Chi dovrebbe far parte di questa cabina di regia indipendente?

Va bene che le aziende siano coinvolte, ma occorrono scienziati terzi e indipendenti. Inoltre, a livello politico, c'è bisogno che le varie voci dello spettro parlamentare siano rappresentate, perché l'intelligenza artificiale avrà un impatto sull'intera società. Anche la società civile deve avere voce in capitolo nella stesura delle normative. Riuscire a implementare procedure sistematiche per valutare cosa sia sicuro e cosa non lo sia, e stabilire se queste tecnologie abbiano un impatto positivo netto sulla collettività, rappresenterebbe un enorme passo avanti. Il vero dilemma è che l'intelligenza artificiale porta con sé sia benefici evidenti sia danni palesi. Come si fa a bilanciare le due cose?

Nelle scorse settimane si è discusso della possibilità che il governo degli Stati Uniti acquisisca delle quote in OpenAI. Molti osservatori la ritengono un'idea terribile.

Sì, lo è. Sarebbe un vero disastro. Ci troviamo già di fronte a un problema fondamentale di conflitto di interessi, poiché il governo è fin troppo vicino a queste aziende. Se dovesse addirittura acquisire delle quote, il conflitto diventerebbe enorme. Per renderlo concreto, chiediamoci: cosa succederebbe se uno di questi modelli potesse creare un'arma biologica in grado di uccidere moltissime persone, o insegnare a qualcuno come farlo? Non vogliamo certo che sia Sam Altman a decidere cosa fare, poiché ha un evidente conflitto di interessi legato alla volontà di lanciare un'IPO e massimizzare i profitti.

E un eventuale coinvolgimento statale non rappresenterebbe una garanzia in uno scenario simile?

Al contrario. Se il governo fosse coinvolto finanziariamente, come potremmo fidarci che prenderà la decisione giusta nel fermare un modello troppo pericoloso? Serve una supervisione indipendente, che è impossibile da garantire se lo Stato possiede il 5% di un'azienda. Specialmente nel caso di OpenAI, che a mio avviso è in bilico sulla bancarotta: sono ampiamente sovraesposti rispetto alle loro entrate effettive e non generano i profitti promessi. Se rischiassero di chiudere, il governo non vorrebbe certo perdere il proprio investimento e potrebbe intervenire per salvarli. In una società capitalista, preferirei che vigessero le regole del libero mercato. Infine, concedere al governo una quota societaria assomiglia molto a una tangente. Mi sembra un'operazione profondamente corrotta.

Crede davvero che OpenAI sia vicina alla bancarotta?

Non saranno in grado di pagare le bollette a meno che non lancino una massiccia IPO. Il problema di OpenAI è che si sono trovati nel posto giusto al momento giusto, dimostrandosi audaci. Quando è uscito ChatGpt, Meta e Google possedevano modelli molto simili (Meta ne aveva appena rilasciato uno e Google, di fatto, ha dato origine alla tecnologia). Tuttavia, quei colossi erano preoccupati per le problematiche legate ai modelli, consapevoli che non fossero affidabili. OpenAI è andata avanti senza esitazioni. Il successo è stato enorme, inaspettato persino per loro. Questo li ha collocati in una posizione di netto vantaggio, ma la verità è che non disponevano di una tecnologia esclusiva.

Questa mancanza di una tecnologia unica che conseguenze ha sul mercato?

Ha permesso ad altri di recuperare il divario molto rapidamente. Ancora oggi OpenAI non possiede una vera tecnologia unica. Il primato tra Anthropic, OpenAI e Google si sposta continuamente, di settimana in settimana o di mese in mese. Questa assenza di un netto vantaggio tecnologico porta inevitabilmente a una guerra dei prezzi. Ho iniziato a scriverne nell'agosto del 2023: all'epoca tutti pensavano che OpenAI sarebbe diventata l'azienda più grande dell'universo, ma io sostenevo che i modelli linguistici di grandi dimensioni si sarebbero trasformati in semplici merci. Nessuno ci farà davvero soldi, a eccezione di Nvidia che vende l'hardware; è un po' come vendere pale durante la corsa all'oro. A oggi, OpenAI deve ancora registrare un profitto.

Nemmeno le recenti tendenze di mercato li hanno aiutati?

Forse Anthropic ci è andata vicino nel secondo trimestre, ma ci sono molti asterischi al riguardo. In quel periodo era in voga il "token maxing", che ha portato a un uso massiccio dell'intelligenza artificiale, provocando poi quello che negli Stati Uniti chiamiamo "shock da prezzo": molti utenti, resisi conto di aver speso troppo per i risultati ottenuti, hanno iniziato a cercare alternative più economiche provenienti dalla Cina, che è appena entrata nel mercato con opzioni low-cost.

Quindi, in assenza di profitti reali, cosa aspetta OpenAI nel prossimo futuro?

Basti pensare che, persino nel trimestre in cui sembrava potessero registrare un profitto, hanno beneficiato di un enorme sussidio da parte di entità esterne come SpaceX, probabilmente nell'ordine di un miliardo di dollari, superando di gran lunga il profitto effettivo generato. Se si considerano questi dettagli, emerge chiaramente come queste aziende non abbiano mai generato veri utili. OpenAI, in particolare, sembra bruciare ancor più capitale rispetto ad Anthropic, mentre la sua reputazione cala e quella del concorrente cresce.

L’emorragia di capitali costringerà OpenAI a mosse azzardate?

Si troveranno costretti a un'IPO, altrimenti esauriranno semplicemente i fondi. Tuttavia, se lanciassero l'offerta pubblica contemporaneamente ad Anthropic, non vedo alcun motivo per cui un investitore dovrebbe preferire OpenAI; l'IPO potrebbe rivelarsi un fallimento. Attualmente bruciano qualcosa come 2 miliardi di dollari al mese: non si può sostenere una spesa del genere a lungo. Proprio questa mattina ho letto una dichiarazione di Bill Maris, ex capo di Google Ventures, il quale sosteneva che un ulteriore taglio dei prezzi dell'80% spingerebbe OpenAI fuori dal mercato. Più i prezzi scendono, più si trovano nei guai. E i prezzi stanno effettivamente scendendo.

All'inizio della sua missione, OpenAI dichiarava che l'intelligenza artificiale avrebbe dovuto essere sicura e avvantaggiare tutti. Oggi, invece, viene messa anche al servizio di governi e forze armate. La narrativa fondante di OpenAI e la costituzione di Anthropic si basavano su false promesse?

Per quanto riguarda la costituzione di Claude di Anthropic, da ciò che so, essa non regola le politiche aziendali ma si concentra sul comportamento del modello in sé, quindi preferirei non esprimermi su quel punto. Riguardo a OpenAI, invece, la dichiarazione di intenti originale era inequivocabile: l'obiettivo era essere aperti – come suggerisce il nome stesso – e operare come un'organizzazione senza scopo di lucro a beneficio dell'intera umanità, non di una singola azienda. Non è chiaro se questo intento fosse sincero fin dall'inizio o se si trattasse solo di marketing.

I fatti degli ultimi anni sembrano smentire quell'intento benefico.

Certamente ha smesso di essere vero ormai da molti anni. Sembrano del tutto indifferenti al reale funzionamento dei loro sistemi, purché generino profitti; hanno semplicemente tradito la loro missione. Pur non essendo un fan di Elon Musk, ho trovato triste che la sua causa contro di loro si sia conclusa con un nulla di fatto per ragioni di prescrizione. I tribunali non sono mai entrati nel merito del cambiamento di missione aziendale. Sarebbe stato utile per l'umanità ottenere una vera sentenza giudiziaria al riguardo. Il mio giudizio personale è che abbiano abbandonato i loro principi e costruito il loro successo su una serie di bugie. Non mi sorprende che oggi Apple si prepari a fare loro causa per disonestà; penso davvero si tratti di un'azienda disonesta.

Secondo lei, il futuro dell'intelligenza artificiale è oramai inseparabile dal futuro della pace globale?

È una domanda molto complessa ed è difficile dare una risposta certa. Molti scenari sono ancora possibili. L'opinione diffusa tra il grande pubblico e gran parte dei governi è che siamo inesorabilmente diretti verso l'AGI (Intelligenza Artificiale Generale) e che le cose andranno inevitabilmente così. Personalmente, credo che l'attuale percorso finirà per collassare e che l'intelligenza artificiale si trasformerà in qualcosa di radicalmente diverso. Ha perfettamente ragione a chiedersi quale sia il legame tra l'IA attuale e la pace globale. La mia speranza è che tutto questo si riveli essenzialmente una grande "prova generale".

Cosa dovremmo imparare da questa "prova"?

Se il sistema attuale dovesse andare in pezzi (e, benché non me lo auguri, lo ritengo probabile), spero che ne trarremo una lezione, considerandolo un banco di prova in vista del momento in cui svilupperemo una reale super-intelligenza. Analizzando i nostri appunti dopo questa prova generale, ci renderemo conto di non aver compreso appieno le questioni legate alla governance e di non esserci preparati a sufficienza: abbiamo lanciato tecnologie senza valutarne l'impatto sull'umanità. Spero che la prossima volta, avendo imparato dai nostri errori, riusciremo a fare un lavoro migliore. Mi alzo ogni mattina e scrivo di questi temi proprio per spingere le persone verso un risultato e un utilizzo dell'intelligenza artificiale migliori di quelli che si prospettano sull'attuale percorso.

Un'ultima domanda: cosa resterà del vecchio mondo, quello in cui l'intelligenza artificiale non era pervasiva e non si pensava di sostituire le persone con gli umanoidi?

È una domanda affascinante a cui è molto difficile rispondere. Penso che, per certi versi, gli esseri umani rimarranno sempre, fondamentalmente, gli stessi: tutti desideriamo rispetto e amore, competiamo per raggiungere degli obiettivi, e molti aspetti della nostra personalità derivano dalla nostra genetica. Queste cose difficilmente cambieranno. Ma le culture mutano e le tecnologie evolvono. Negli ultimi secoli le persone si sono fortemente identificate con il proprio lavoro. Credo che uno dei cambiamenti più radicali – non nei prossimi due anni, ma forse in venti, quaranta o sessant'anni – sarà che la maggior parte delle persone non lavorerà.

Se il lavoro non sarà più il fulcro dell'identità umana, come cambierà la società?

Non credo che questa transizione avverrà in fretta come l'industria dell'intelligenza artificiale vorrebbe farci credere per fomentare l'entusiasmo attorno ai propri modelli. Ma proiettandoci tra cinquant'anni, è probabile che molti non riusciranno a trovare un'occupazione tradizionale o a definirsi attraverso essa, e questo rappresenterà un cambiamento drammatico per la società.

Come reagiremo a questo trauma?

Penso a contesti come il festival di Burning Man, dove le persone non svolgono alcuna attività a fini economici: devono trovare il proprio scopo attraverso l'arte e l'espressione personale. Forse raggiungeremo una società in cui lo scopo della vita andrà ricercato in progetti creativi o comunitari, e non più attraverso l'accumulo di denaro. Ci stiamo in parte incamminando su un percorso in cui una ristretta cerchia di oligarchi deterrà la maggior parte della ricchezza, distribuendone una piccola porzione al resto della popolazione. Spero vivamente in una distribuzione più equa, ma potrebbe non verificarsi: le persone avranno abbastanza per nutrirsi e sopravvivere, ma non necessariamente per concedersi dei lussi. E molti di loro non lavoreranno. Non accadrà dall'oggi al domani, ma ci stiamo muovendo verso quella direzione.

Lei ritiene possibile allineare l'intelligenza artificiale ai valori umani?

Credo che questo obiettivo richieda un progresso tecnico che, a oggi, non abbiamo ancora compiuto. In linea di principio, penso sia possibile. Tuttavia, se continuiamo ad affidarci a questi modelli di intelligenza artificiale generativa, risulteranno sempre estremamente difficili da controllare. Non siamo riusciti ad allinearli all'essere umano e non mi aspetto che ci riusciremo a breve. L'unica reale possibilità risiede nella costruzione di modelli in grado di comprendere meglio il mondo, che assimilino i valori umani e si impegnino a rispettarli. È un'impresa ardua, ma la trovo profondamente interessante. Al momento non rappresenta il filone principale della ricerca sull'intelligenza artificiale, ma mi piacerebbe assumesse un ruolo più centrale. Penso davvero che il destino dell'umanità dipenda da quanto saremo bravi a rispondere a questa sfida.