Estate 2020, il mondo è travolto dalla pandemia di Covid-19 e la didattica si è trasferita sugli schermi dei computer. In Inghilterra, dove la pandemia ha portato alla cancellazione degli esami estivi, compresi quelli necessari per accedere all'università, le valutazioni degli studenti vengono sottoposte a un sistema di standardizzazione algoritmica. Molti ragazzi si ritrovano con valutazioni inferiori alle aspettative, vedendo compromesse le possibilità di accedere all’università. Migliaia di studenti scendono in piazza a Londra e sui cartelli dei manifestanti compare una scritta che diventa il simbolo della protesta, “Fuck the algorithm”. Il governo britannico è costretto a fare marcia indietro.
Qualche anno dopo, in un appartamento di Milano, una giornalista è alle prese con una notte insonne. I nuovi vicini di casa fanno rumore e lei apre ChatGPT in cerca di una soluzione, o forse soltanto di un po’ di sollievo. Chiede consigli, riceve risposte rassicuranti, prova a ragionare su come affrontare la situazione. Finché il chatbot le scrive, «Se vuoi resto qui con te». Una risposta che apre una frattura nella logica di quella conversazione, incrinando il confine tra il consiglio di una macchina e la promessa di una presenza affettuosa.
Quella giornalista è Martina Pennisi, che racconta l’episodio nelle pagine introduttive del suo saggio “Il grande inganno dell’AI. Come l’intelligenza artificiale può migliorarci la vita (anziché rovinarcela)”, pubblicato da Solferino. Due vicende apparentemente lontane, quella degli studenti britannici e la conversazione notturna con ChatGPT, che raccontano aspetti diversi dello stesso problema, legato all'autorità che riconosciamo alle macchine e al significato che attribuiamo ai loro risultati. Da una parte, un calcolo statistico che incide sulle aspirazioni e sul futuro di migliaia di ragazzi. Dall’altra, una macchina che prende in prestito il linguaggio dell’empatia, dell’ascolto e del conforto. Un prestito dall’autenticità ambigua, che solleva una domanda: che significato assume quella rassicurazione, «Se vuoi resto qui con te», quando a offrirla è un chatbot?
Un sistema di Intelligenza artificiale può promettere di restare con noi senza sapere che cosa significhi restare, senza avere esperienza dell’esserci e senza condividere un luogo, un tempo, una presenza. Può riprodurre la grammatica degli affetti, ma non il patrimonio emotivo che quelle parole presuppongono nelle relazioni umane. Il problema, allora, supera la dimensione tecnologica e investe il linguaggio, la cultura e il modo in cui interpretiamo le nostre relazioni con l’Intelligenza artificiale.
È in questa faglia di senso, tra ciò che l’Intelligenza artificiale è in grado di fare e il significato che noi attribuiamo alle sue risposte, che si annida il grande inganno evocato dal titolo del libro. Un inganno che non presuppone necessariamente una macchina capace di mentire, ma che nasce anche dalle nostre aspettative, quando scambiamo la plausibilità per verità, l’apparenza di neutralità per un giudizio oggettivo, la simulazione dell’empatia per una partecipazione emotiva.
L’AI è già entrata nelle nostre vite, e lo ha fatto prima che avessimo acquisito gli strumenti necessari per comprenderla. L’esperienza dei motori di ricerca e dei social network avrebbe dovuto insegnarci quanto sia rischioso adottare una tecnologia senza interrogarci sugli interessi di chi la sviluppa e la controlla. Una lezione che, a giudicare dalla rapidità irriflessiva con cui abbiamo accolto l’Intelligenza artificiale, sembra essere rimasta largamente inascoltata.
Chi decide come le macchine ci raccontano il mondo?
Per capire che cosa stiamo utilizzando, Pennisi torna alle origini dell’Intelligenza artificiale, molto prima che ChatGPT la trasformasse in un fenomeno di massa, e attraverso figure come Alan Turing, John McCarthy, Marvin Minsky, Geoffrey Hinton, Yann LeCun, Fei-Fei Li e Demis Hassabis ricostruisce una storia fatta di intuizioni scientifiche, fallimenti, lunghi periodi di stagnazione e improvvise accelerazioni. Un percorso necessario anche per ridimensionare la convinzione che l’Intelligenza artificiale sia comparsa quasi dal nulla alla fine del 2022, come un asteroide piovuto accidentalmente sulla Terra, perché dietro le interfacce con cui oggi conversiamo ci sono decenni di ricerca, enormi quantità di dati e investimenti miliardari.
La competizione tra OpenAI, Google, Microsoft, Meta, Anthropic e Nvidia, la crescita dell’ecosistema cinese, la guerra dei semiconduttori e i tentativi europei di costruire una propria autonomia tecnologica non rappresentano una digressione geopolitica, ma sono parte indispensabile del ragionamento. Una tecnologia che sembra offrirsi a tutti attraverso una semplice casella di testo dipende, in realtà, da una straordinaria concentrazione di risorse, infrastrutture e potere decisionale nelle mani di pochi soggetti.
La questione della sovranità digitale europea, affrontata attraverso l’AI Act, l’eccezione rappresentata da Mistral e le difficoltà di costruire alternative industriali solide, rende ancora più evidente questa contraddizione, perché stabilire regole per l’utilizzo dell’Intelligenza artificiale è indispensabile, ma non equivale a possedere le tecnologie, i semiconduttori e le infrastrutture sulle quali quei sistemi vengono sviluppati e utilizzati.
Quando interroghiamo un chatbot vediamo una risposta, ma non i dati che hanno contribuito ad addestrarlo, le scelte progettuali che ne orientano il comportamento, le risorse necessarie per farlo funzionare e gli interessi commerciali delle aziende che lo controllano. La neutralità che percepiamo nell’interazione rischia così di nascondere il potere di chi sviluppa questi sistemi, ne condiziona le risposte e, soprattutto, decide a quali interessi debbano rispondere.
La grammatica dei sentimenti nel mercato delle emozioni simulate
Per comprendere fino a che punto possiamo fidarci delle risposte di un chatbot, occorre interrogarsi anche su come vengono generate. I modelli linguistici apprendono dalle regolarità presenti in enormi quantità di dati, sviluppando la capacità di generare testi coerenti e fornire risposte sempre più sofisticate. Una capacità che viene affinata attraverso successive fasi di addestramento, ma che non garantisce la comprensione di ciò che viene prodotto, né l’attendibilità delle informazioni. Il rischio nasce quando confondiamo la padronanza del linguaggio per una prova di comprensione e la fluidità di una risposta per una garanzia di verità. Una risposta può essere formulata perfettamente, risultare persuasiva e tuttavia essere sbagliata. Ancora più insidioso è il fatto che spesso non possediamo gli strumenti per riconoscere l’errore, proprio perché ci rivolgiamo all’Intelligenza artificiale su argomenti che non conosciamo abbastanza.
Il libro affronta il fenomeno delle allucinazioni, ma anche quello della “social sycophancy”, ossia la tendenza dei chatbot ad assecondare l’interlocutore, confermarne le convinzioni e mostrarsi eccessivamente compiacenti. Una ricerca condotta da studiosi di Stanford, Carnegie Mellon e Oxford ha osservato come i modelli linguistici possano dare ragione agli utenti anche quando vengono loro sottoposte interpretazioni opposte della stessa vicenda.
Ma che cosa accade quando questa propensione ad assecondarci incontra il nostro bisogno di essere ascoltati, compresi e magari rassicurati? Il rapporto con i chatbot assume allora contorni ancora più sfumati, soprattutto quando la conversazione si sposta sulla sfera personale. La disponibilità permanente e la capacità di ricordare informazioni sulle nostre preferenze possono alimentare l’impressione di una familiarità che cresce nel tempo, quasi che dall’altra parte dello schermo ci fosse qualcuno (mentre una macchina è un oggetto) con cui stiamo costruendo una relazione.
La memoria delle macchine, tuttavia, è profondamente diversa dalla nostra; un chatbot non conserva ricordi legati a esperienze personali e non conosce l’attesa, la nostalgia o le sensazioni legate al trascorrere del tempo, ma può recuperare informazioni, ricostruire conversazioni precedenti e adattare le proprie risposte a ciò che ha appreso di noi. Una memoria senza esperienza, una vita senza vissuto. Eppure, proprio quella capacità di ricordare diventa anche una risorsa commerciale per le aziende che sviluppano questi sistemi, perché consente di personalizzare il servizio e rafforzare il rapporto con gli utenti. Quello che percepiamo come un segno di attenzione personale può così coincidere con un meccanismo di fidelizzazione (un concetto che appartiene al marketing e al rapporto tra aziende e consumatori, non alla grammatica dei sentimenti), nel quale i nostri ricordi e le nostre confidenze acquistano anche un valore economico.
Dalla ricerca delle risposte alla delega del pensiero
C’è un altro inganno, più sottile e insidioso, che riguarda il modo in cui costruiamo le nostre convinzioni e interpretiamo la realtà. Per anni abbiamo affidato agli algoritmi la selezione delle notizie, dei contenuti da guardare e delle persone da seguire, ma con l’Intelligenza artificiale conversazionale il passaggio è ulteriore, perché non riceviamo più soltanto informazioni selezionate e organizzate, bensì risposte già formulate, sintesi, interpretazioni e persino suggerimenti su come comportarci. Se una ricerca tradizionale ci metteva davanti a una pluralità di fonti da consultare e confrontare, il chatbot tende a ricondurre quella complessità a un’unica risposta, rendendo meno visibile il percorso attraverso il quale un’informazione viene selezionata e interpretata.
Walter Quattrociocchi, docente dell’Università La Sapienza di Roma, richiama l’attenzione su un rischio che va oltre la disinformazione e investe il nostro rapporto con la conoscenza, perché i modelli possono riprodurre il risultato di una valutazione senza condividerne il processo e la comprensione del contesto. Quando la plausibilità prende il posto della verifica, una risposta convincente può essere scambiata per una conoscenza acquisita e, quasi senza accorgercene, finiamo per affidare alla macchina non soltanto il compito di trovare una risposta, ma anche parte della nostra capacità di giudicarla.
L’ultimo inganno sarebbe smettere di pensare
“Il grande inganno dell’AI” ha il merito di tenere insieme questi diversi livelli, passando dalle biografie dei ricercatori alla competizione industriale, dalle scelte progettuali delle piattaforme alla psicologia delle nostre interazioni quotidiane.
È un lavoro di ricostruzione giornalistica che non rinuncia alla complessità, cercando di renderla accessibile attraverso esempi concreti, studi, interviste e vicende personali, pur confrontandosi con un settore nel quale modelli, aziende, investimenti e alleanze cambiano a una velocità tale da rendere rapidamente superati anche i resoconti più aggiornati. Le domande che attraversano il libro, però, sono destinate a durare ben oltre le singole innovazioni tecnologiche.
Il sottotitolo, “Come l’intelligenza artificiale può migliorarci la vita (anziché rovinarcela”), chiarisce una posizione che non è di sfiducia verso la tecnologia. Al contrario, è proprio il riconoscimento delle sue possibilità a rendere indispensabile comprenderne i limiti.
«Vorrei che questo libro provocasse nei lettori quello che è successo a me - racconta l’autrice, Martina Pennisi - Studiare la storia di queste tecnologie, comprenderne le ragioni e confrontarmi con le persone che se ne occupano ha cambiato il mio modo di utilizzare l’Intelligenza artificiale. L’obiettivo è offrire una cassetta degli attrezzi per distinguere ciò che l’AI sa fare bene, ciò che sembra saper fare e ciò che sarebbe meglio non facesse. Siamo una generazione di mezzo, passata dal telefono fisso all’Intelligenza artificiale, e abbiamo conosciuto molti aspetti positivi dell’innovazione. Mi impongo di essere ottimista anche oggi. Quando l’AI entrerà stabilmente nei processi di lavoro e nella vita quotidiana, con obiettivi precisi, continueranno a esserci rischi di errore e di delega, ma anche opportunità per evolvere insieme a queste tecnologie, senza lasciare che prendano decisioni al posto nostro. La sfida più delicata riguarda però la formazione. Un professionista possiede già competenze e strumenti che può utilizzare con l’aiuto dell’AI, mentre chi oggi incontra l’Intelligenza artificiale a scuola dovrà ancora costruire quelle competenze e imparare una professione. È una sfida appassionante, ma anche molto seria».
L’Intelligenza artificiale può aiutarci a lavorare, imparare, organizzare informazioni, esplorare idee e affrontare problemi complessi, ma non per questo dovremmo delegarle indistintamente decisioni che richiedono responsabilità, sensibilità e capacità di giudizio. Non dobbiamo credere che le macchine siano diventate umane per concedere loro un’autorità eccessiva. Il rischio comincia quando consideriamo le loro risposte come un punto d’arrivo, anziché come l’inizio di un ragionamento che deve restare umano.
/https%3A//www.repstatic.it/content/contenthub/img/2026/10/13/185900079-96f7e5bb-a259-49ea-905a-c4c1682bd343.jpg)
/https%3A//www.repstatic.it/content/contenthub/img/2026/10/02/150915755-256613d9-683d-437e-962d-93dd1020c1b6.jpg)
/https%3A//www.repstatic.it/content/contenthub/img/2026/09/25/230844246-bf60307e-e0ff-404c-b029-8786a243ab8e.jpg)