Una, nessuna, centomila intelligenze artificiali

Se qualcuno vi chiede “cosa ne pensi dell'intelligenza artificiale?", novanta volte su cento sta parlando di ChatGPT, di Gemini o di Claude. Non di intelligenza artificiale in generale, né dell'ecosistema tecnologico che le IA stanno già modificando negli ospedali, nei laboratori di ricerca, nei sistemi di controllo autonomo dei veicoli. Sta parlando di quel dialogo piacevole, accomodante, prevedibile nella sua cordialità, che è entrato nella vita di noi, user.

C’è chi pensa che questo sia il primo grande errore strategico della nostra conversazione pubblica sull'IA: l'identificazione totale, assoluta, della tecnologia "intelligente" con l'IA generativa e in particolare con i Large Language Models – gli LLM, i modelli che generano linguaggio.

Questo errore ha conseguenze che non vediamo ancora, ma che condizionano il modo in cui pensiamo, in cui valutiamo l’affidabilità delle macchine e in cui interagiamo con loro.

Ne ho parlato con Alfio Quarteroni, matematico e professore emerito al Politecnico di Milano e all'EPFL di Losanna.

Una tecnologia: il grande equivoco

Perché è un errore strategico convergere sull'intelligenza artificiale generativa?

"Identificare l'IA con l'IA generativa è un grande errore. Il primo motivo è che crea una compressione, una sorta di riduzione forzata, che non tiene conto di un'architettura, quella dell’IA, la cui conoscenza ci permetterebbe di comprendere la complessità molto più facilmente. Quando capisci come funziona veramente il sistema, cambiano le domande che ti fai e le risposte che ti dai.

Facciamo un esempio. Nel momento in cui so che gli LLM non sono progettati per cercare la verità, ma per generare risposte plausibili, per simulare verosimiglianza, la mia intera postura cambia. Non mi aspetto più risposte certificate. Mi aspetto un testo brillante, spunti da approfondire, riferimenti bibliografici, ad esempio. E questo cambio di consapevolezza trasforma completamente il modo in cui interagisco con quella macchina, il modo in cui la uso per ottenere la migliore soluzione possibile per me.

Meglio conosciamo l’argomento del nostro dialogo, più specialisti siamo del soggetto, più ci rendiamo conto che le prime risposte sono di frequente imprecise e, talvolta, fuorvianti. Abbiamo bisogno di fare diversi prompt per condurre il sistema a rispondere in modo più qualificato, accurato e utile. Se ci affidiamo completamente agli LLM su materie che non conosciamo possiamo rischiare di dare per buone risposte scorrette”.

E il secondo motivo?

"Confondere l’intera IA con l’intelligenza artificiale generativa fa sì che molte persone sviluppino un'avversione, attribuendo all'IA una intrinseca predisposizione all'errore. Quando constatiamo che il mondo si divide in entusiasti dell'IA e apocalittici dell'IA, molto spesso questo dibattito è condizionato dal fatto che la totalità di queste persone identifica l'IA con l'IA generativa.

Ecco il circolo vizioso: entrambi i gruppi stanno guardando la stessa cosa microscopica, cioè l’intelligenza artificiale generativa, e traendo conclusioni opposte. Ma il problema è che stanno giudicando tutta l'intelligenza artificiale sulla base di una sola manifestazione di essa.

La quale, per costruzione, per scopo, non cerca necessariamente la verità. Cerca di fare dialogo, e quindi simula il linguaggio naturale nella migliore forma della plausibilità. Cercando di essere piacevole, diventa compiacente. Dando sempre risposte anche in casi in cui non dovrebbe darle. Ma non è un difetto della tecnologia, o un suo effetto collaterale. È esattamente quello per cui è stata disegnata.

Il problema è che questo design della IA generativa, questa compiacenza esplicita, diventa il criterio con cui posso giudicare negativamente l’affidabilità di un intero sistema tecnologico di intelligenza artificiale, pensando che sia portato a fare errori sistematici.

Qual è l’antidoto, per persone che non sono specializzate?

"Sapere che l'intelligenza artificiale come tecnologia non coincide con l’intelligenza artificiale generativa, che ne è un sottoinsieme. Sapere che l’intelligenza artificiale, in sé, è una macchina con un motore matematico che funziona benissimo. I sistemi di IA che sperimentiamo continuamente nella robotica, nelle analisi predittive a livello aziendale, nelle auto a guida autonoma, nelle analisi delle immagini radiologiche, spesso prescindono dall’intelligenza artificiale generativa. Sono basate su altre tecnologie, altre architetture matematiche, assolvono altri compiti, devono avere altri standard di affidabilità.

Quando riduciamo tutto a una sola narrazione, quando diciamo "l'IA sbaglia" perché abbiamo avuto esperienza diretta delle allucinazione degli LLM, creiamo sfiducia verso molti altri strumenti che invece ci sono estremamente utili e, in alcuni casi, potranno salvarci la vita. E questo è pericoloso perché significa che le decisioni su quali IA usare e dove, o su come governarle, le stiamo prendendo nella cecità.

Centomila intelligenze artificiale: quante sono?

Per capire cosa stiamo veramente usando, occorre uscire dal dialogo e dall’approccio conversazionale degli LLM e guardare l'ecosistema intero. E qui, improvvisamente, non vediamo una IA. Vediamo decine, centinaia di intelligenze artificiali diverse.

In gergo, si chiamano IA ristrette, intelligenze artificiali specializzate su un task specifico, vincolate a prestazioni misurabili, costruite per fare una cosa e farla bene. La letteratura scientifica internazionale usa il termine Narrow AI.

Prendiamo esempi concreti di quello che già opera nel nostro presente: un sistema di riconoscimento facciale (basate su reti neurali di tipo CNN) che identifica persone in aeroporti, un algoritmo di credit scoring (gradient boosting) che decide se darti un mutuo, un sistema di sentiment analysis (NLP) che monitora cosa dicono di te online, un algoritmo di anomaly detection (isolation forests) che rileva frodi sulle carte di credito, un sistema di predictive maintenance (LSTM) che predice guasti nelle fabbriche. Cinque architetture diverse, cinque task completamente diversi, cinque livelli di affidabilità diversi. Nessuno dialoga con noi e nessuno genera linguaggio. Ognuno sa fare una cosa precisa, e quella cosa deve funzionare. Se chiedi al credit scoring di scrivere una poesia, fallisce. Se chiedi al sistema di anomaly detection di capire il contesto, non ha nemmeno l'architettura per farlo. Tutti usano reti neurali. Lo stesso motore matematico che muove ChatGPT. Ma sono creature completamente diverse.

Quante sono? E su cosa si fondano?

"Il machine learning è il paradigma generale. Tutti i sistemi di AI sono basati sulla possibilità della macchina di imparare in maniera autonoma, grazie a sistemi matematici detti reti neurali artificiali e ad algoritmi di ottimizzazione che operano in spazi di dimensione incredibilmente grandi. In altri termini, un cuore matematico.

Nella storia dei nostri tentativi di creare intelligenza artificiale, abbiamo sbagliato per decenni, ma era chiaro che volevamo qualcosa a cui delegare compiti. Il sogno era quello di costruire macchine capaci di pensare. Provavamo a trasportare la teoria dentro la macchina (tutto ciò che sappiamo su materie come logica, matematica, ragionamento) e chiedevamo alle macchine di arrangiarsi adottando un approccio deduttivo. Non ha funzionato come ci si aspettava.

È stato necessario cambiare paradigma: non trasferire alla macchina le nostre conoscenze teoriche, ma la nostra esperienza, addestrandola ad imparare in modo autonomo grazie a quell’esperienza. Così funzionano, oggi, gli algoritmi del machine learning che potenziano l’intelligenza artificiale.

L’esperienza, per qualunque compito si voglia affrontare, viene codificata nei dati (testi, immagini, misure forniti da sensori; informazioni dal web, dai social media; misure dai satelliti, dall’Internet of Things; informazioni dai file che continuamente generiamo). Le reti neurali, una volta addestrate, sapranno estrarre da questi dati delle strutture, dei pattern, delle informazioni che l’occhio umano non sarebbe in grado di vedere. A velocità straordinariamente grandi e incommensurabili rispetto alla nostra.

Come impara la macchina?

"Come un muratore che ha guardato costruire case per anni, e dopo averne viste costruire mille riesce a capire come si fa, senza leggere un manuale.

Le macchine, nel machine learning, imparano come il muratore. Non attraverso manuali teorici, ma attraverso l'esperienza concreta, ripetuta e accumulata nei dati”.

Ma è difficile immaginare una macchina che osserva e impara. Come fa esperienza?

"Dipende da cosa vuoi fare. Come fai esperienza per guidare una macchina? Guidandola o osservandola. Come fai esperienza nel dialogo? Ascoltando dialoghi, leggendo testi. Come fai esperienza nella traduzione? Vedendo centomila traduzioni dove qui c'è l'italiano e lì c'è l'inglese. Tutte queste esperienze generano dati che, grazie agli algoritmi matematici, consentono l’addestramento della macchina. E quindi il suo apprendimento. Naturalmente, in funzione del compito specifico che vogliamo che la macchina assolva, si dovranno generare dati di addestramento non generici, ma specifici, mirati. Se vuoi che una rete neurale impari a diagnosticare un tumore, non le dai testi di letteratura italiana. Le dai migliaia di immagini mediche etichettate correttamente con le diagnosi fatte dagli specialisti. Se vuoi che impari a dialogare, le dai conversazioni, articoli, libri. L'architettura matematica è simile (le reti neurali e gli algoritmi di ottimizzazione). Ma il tipo di esperienza, cioè il tipo di dati che dai, determina completamente cosa la macchina imparerà a fare.

Questo è il motivo per cui il machine learning è artigianato. Devi sapere esattamente quale esperienza stai dando, quale tipo di dati stai codificando e, naturalmente, quale tipo di rete neurale utilizzare. La decisione su quali dati usare è profondamente umana. È una scelta di responsabilità”.

Quindi i dati, alla fine, coincidono con l'esperienza?

“Non esattamente. I dati sono il veicolo che contiene l'esperienza e attraverso cui l'esperienza viene codificata. Non sono l'esperienza stessa. Sono la rappresentazione di essa, il modo in cui la traduciamo per farla capire a una macchina. Poi, che cosa significano concretamente dipende dal task.

Per esempio. Se vogliamo che la macchina faccia esperienza nel dialogo, dovremo dare dei testi al computer. I testi sono i dati dell'esperienza del dialogo, quella conversazione umana che vuoi che la macchina impari a replicare. Li fornisci al computer, e lui impara a dialogare. Il testo è una rappresentazione simbolica, una codifica delle conoscenze umane.

Il vero problema di questo processo è che in quei testi c’è molto di più di ciò che riguarda il dialogo in sé. Ci sono i tuoi pregiudizi, le tue distorsioni, i tuoi errori sistematici, i tuoi bias. Per questo si dice che i dati non sono mai neutrali, perché frutto di scelte umane. La macchina impara quello che le insegni. E quello che le insegni dipende completamente da chi sceglie i dati, come li seleziona, cosa esclude.

Com’è possibile, però, che il motore sia lo stesso?

“Lo stesso motore matematico (le reti neurali) va declinato in modo diverso in rapporto al compito. È come dover costruire un motore per muovere un trattore, un'automobile di Formula 1, una mietitrice o un tosaerba. I principi generali di un motore termico sono gli stessi, la sua realizzazione cambia in funzione del tipo di impiego. Tutte le reti neurali si ispirano alle reti dei neuroni biologici (quelli del nostro cervello): la loro architettura specifica, tuttavia, cambia a seconda che si debbano impiegare per generare dialogo, per muovere un robot, per analizzare immagini, per fare diagnostica predittiva di danni in processi industriali. Le accomuna la loro capacità di consentire alla macchina di imparare in maniera autonoma, grazie agli algoritmi di ottimizzazione: il machine learning.

Quando usi l'IA per analizzare immagini mediche (una radiografia, una TAC) vuoi affidabilità assoluta. Vuoi risultati certi, diagnostica precisa, nessuna libertà creativa e zero margine di errore. Per questo task, si applica una specifica rete neurale, addestrata su migliaia di immagini mediche, con standard di accuratezza rigorosi.

Ma quando usi l'IA generativa per dialogare, l’accuratezza della risposta non è necessariamente un prerequisito. Cerchi plausibilità, scorrevolezza, utilità euristica. Vuoi essere guidato a pensare diversamente, non ricevere risposte assolute. È uno strumento di pensiero, non di diagnosi. L’imprinting matematico è lo stesso, gli strumenti algoritmici sono diversi per task completamente diversi.

Nessuna intelligenza artificiale generale?

Finora abbiamo costruito un quadro molto preciso: uno stesso motore matematico, centomila declinazioni diverse, ogni declinazione specializzata su un task specifico.

Ma nel dibattito pubblico emerge continuamente un'altra narrativa, completamente diversa. Una che negherebbe le premesse di tutto quello che abbiamo appena detto.

L'AGI (Artificial General Intelligence) è l’esatto opposto di quello di cui abbiamo appena parlato. Non è specializzata, è generale. Non è ristretta a un compito, farebbe tutto. Avrebbe un'intelligenza che eguaglierebbe quella umana in tutto e per tutto. E sarebbe pericolosa, perché le macchine potrebbero generare da sole altre macchine e creare comunità di computer che si autoregolamentano, anche contro la specie umana. È un’utopia?

"L’AGI sarebbe un'intelligenza che dovrebbe uguagliare in tutto e per tutto l'intelligenza umana, l'unificazione di tutto in una singola intelligenza generale. Quando senti le big tech chiamare l’allarme e il punto di non ritorno, devi ricordarti che lo scenario apocalittico è perfetto per il clickbait. E anche per darsi una postura etica prima degli altri. L’agenda setting dei mercati finanziari è condizionata e condiziona i mass media. C’è qualcuno a cui conviene che questa storia sia raccontata così.

Detto questo, la verità è che nessuno sa né se ci arriveremo, né quando, né come. Però cominciano ad esserci dei fenomeni emergenziali dall'IA di oggi che lasciano immaginare che questa traiettoria non sia impossibile.

Gli LLM mostrano capacità emergenti che nessuno aveva previsto, comportamenti che emergono senza essere stati esplicitamente programmati. Questo è un elemento che alimenta l'idea che la strada verso una forma di consapevolezza non sia impossibile. Se queste macchine arriveranno effettivamente a esprimere una coscienza, una conoscenza del fine, una capacità di distinguere il bene dal male, il discorso cambierà radicalmente. Può accadere. Nessuno lo esclude categoricamente. Ma non domani.

C’è qualcuno che sta regolamentando i produttori di tecnologia perché questo non accada in modo incontrollato?

“No. Forse è questo il maggior elemento di inquietudine: l’assenza di elementi di controllo affinché non ci si arrivi in maniera incontrollata.

Prima di parlare della mitologia dell'AGI che estingue l'umanità, mi occuperei comunque dell'ecosistema di centomila IA ristrette che operano già oggi, in assenza di controllo adeguato, in assenza di trasparenza su come funzionano, in assenza di una conversazione consapevole su quali sono i rischi specifici di ogni architettura, di ogni task e di ogni dato inserito.

Mentre dibattiamo se ChatGPT è intelligente o meno, non stiamo affatto discutendo i framework di governo delle IA che già decidono sulla vita, sulla morte, sulla sicurezza, sulla discriminazione nei contesti di credito, nell'accesso al lavoro, nella medicina.

E questo silenzio è un’assenza di consapevolezza sistemica e, forse, è molto più pericoloso di qualunque AGI futura”.

Per approfondire: Alfio Quarteroni, L'Intelligenza Creata, Hoepli, 2025.