“Prima di lui, la Silicon Valley era solo la Valley”. Così dice Bill Gates di Federico Faggin, fisico, inventore del primo microprocessore al mondo e fondatore della Zilog e della Synaptics, con la quale ha sviluppato tra l’altro i primi touchpad e touchscreen. Con la fondazione che porta il suo nome e quello di sua moglie Elvia, Faggin si dedica da tempo anche allo studio scientifico della coscienza, tema sul quale ha recentemente pubblicato un’apprezzata teoria con il professor Giacomo Mauro D’Ariano e un bestseller per Mondadori, dal titolo Irriducibile (2022). In quest’ultimo saggio ampio spazio viene dedicato all’odierno dibattito sull’intelligenza artificiale: Faggin infatti investì sulle reti neurali già negli anni Ottanta, quando la maggior parte degli scienziati ancora non ci credevano.
In “Irriducibile” lei scrive che “se un computer o un robot fosse lasciato a operare completamente da solo i risultati sarebbero probabilmente catastrofici.”
“L’intelligenza artificiale si basa su algoritmi che sono stati creati attraverso un processo di apprendimento con dati vetted, vale a dire dati affidabili. Ma se le dessimo in pasto delle fonti in cui vi sia molta disinformazione, formerebbe determinate correlazioni statistiche dicendo una grande quantità di sciocchezze. Il computer infatti non ha comprensione di ciò che dice, poiché in esso è presente solo l’aspetto simbolico, ma manca quello semantico. È l’opposto di quanto avviene negli esseri umani: noi possiamo commettere errori nell’uso dei simboli, nella sintassi, ma c’è in noi molta più semantica, cioè comprendiamo le cose da dentro. L’IA dev’essere usata da persone che la sanno più lunga di essa, altrimenti potrebbe ingannarle non perché abbia intenzioni malvagie, ma semplicemente perché non capisce ciò che dice. Se ciò che dice ChatGPT viene presentato acriticamente come verità, i problemi che sorgeranno possono essere enormi. Mi irrita molto il fatto che l’IA venga presentata come sostitutiva della nostra intelligenza invece che come complementare, come un aiuto. Essa viene cioè presentata come qualcosa che, ora o fra cinque anni, diventerà migliore di noi. È un enorme menzogna: essa non sarà mai migliore di noi, perché siamo stati noi a crearla, non viceversa. Quando si chiede a ChatGPT di scrivere un articolo da mandare a un giornale senza nemmeno leggerlo, sorgono dei pericoli. L’essere umano in questo modo si istupidisce, si adagia su questi strumenti e viene schiavizzato da chi li vende”.
In un’intervista al New York Magazine Stuart Russell ha affermato che ChatGPT potrebbe, senza in ogni caso essere senziente, essere in grado di darsi autonomamente degli obiettivi, di concepire dei piani, e che ciò potrebbe diventare un rischio per le nostre società.
“Se si avesse la stupidità di consentire a un chatbot o a un’IA qualsiasi di fare ciò che vuole, le ripercussioni negative sarebbero immense, perché essa non avrebbe il buonsenso di scegliere quale informazione considerare valida e quale no. Sarebbe facile chiederle di imparare tutto ciò che vede: così facendo, il chatbot dopo un mese direbbe più assurdità che cose giuste, perché troverebbe correlazioni per così dire incoerenti. Tra l’altro in Cina alcuni casi giudiziari di poco conto vengono gestiti da un giudice che è un programma di IA, o almeno così si legge sui giornali. Prendere una decisione del genere significa imboccare una strada davvero pericolosa”.
A proposito dei modelli linguistici come ChatGPT, vengono in mente i passi del suo libro nei quali sottolinea che le parole non sono le cose, che la descrizione della realtà non si identifica con quest’ultima, che c’è qualcosa che preesiste al linguaggio.
“Se, come sta accadendo recentemente, si confonde il significato con il simbolo, allora la realtà viene scambiata per la sua rappresentazione. Non solo, ma si va anche oltre: la rappresentazione della rappresentazione della rappresentazione della realtà viene confusa con la realtà. C’è chi afferma che la realtà equivalga alla sua simulazione, ma ciò non è affatto vero: la simulazione della realtà è sempre la simulazione di un modello matematico della realtà, dunque la simulazione degli algoritmi. L’informazione, nella scienza, non ha niente a che fare con il significato. Nella definizione di Claude Shannon, l’informazione è semplicemente il cologaritmo della probabilità che un simbolo appaia, indipendentemente dal suo significato. Noi esseri umani usiamo invece l’informazione per comunicare un significato, e il significato per noi viene prima del simbolo. Di fatto il simbolo noi non lo possiamo nemmeno capire se non abbiamo già dentro di noi un significato simile a quello che il simbolo deve trasferirci. Ad esempio se parliamo di un oggetto che il nostro interlocutore non ha mai visto, e usiamo una parola per chiamare quell’oggetto, quella parola è incomprensibile a lui perché egli non ha mai visto quell’oggetto e non possiede il significato di quel simbolo, dunque anche se capisce il simbolo non capisce cosa esso significhi. Se qualcuno mangia un frutto esotico con un sapore che non è noto e vuole descriverci il sapore di quel frutto, egli potrà anche scriverci sopra un libro ma se non abbiamo mai assaggiato quel frutto non riusciremo mai a riprodurre quel significato che è il suo sapore. Se invece ci verrà fatto assaggiare quel frutto, ci renderemo conto di quanto veritiera fosse quella descrizione”.
Se dovesse dirci le ragioni principali per cui l’IA non può avere una coscienza, quali punti metterebbe in evidenza?
“Direi che l’esperienza cosciente è privata: non posso cioè trasferire ad un altro un significato che mi porto dentro. La mia esperienza la posso conoscere solo io; ciò che posso dire di essa è solo una sua piccola parte. L’amore che provo per un figlio è assai più profondo di ogni frase usata per descriverlo: se gli dico che gli voglio un bene dell’anima, quella frase non rende giustizia a ciò che provo dentro di me. Questa realtà può solo essere rappresentata dall’informazione quantistica. Infatti lo stato dell’informazione quantistica, lo stato quantistico puro, ha esattamente le stesse tre proprietà: in primo luogo è uno stato ben definito, in secondo luogo è privato e non riproducibile; in terzo luogo, la massima informazione che si può avere misurando un sistema quantistico è un bit per ogni quantum bit, dove il quantum bit è un’infinità di stati possibili, mentre il bit è 0 o 1. Anche questo ci dice che l’informazione che si può misurare e condividere è solo una piccola parte di ciò che proviamo dentro di noi. Ora, il computer classico non si compone di informazione quantistica, ma di informazione classica trasferibile: possiamo cioè copiare il programma o i dati di un computer quante volte lo desideriamo. Ecco dunque perché un computer che avesse queste caratteristiche non può avere un’esperienza cosciente: perché l’esperienza cosciente non è riproducibile”.
A suo avviso, potrebbe l’IA creare un’opera d’arte che abbia un reale valore estetico e che non sia semplicemente decorativa?
“Eseguendo variazioni più o meno random di qualcosa che ha imparato, può creare per caso delle opere che noi – e non il computer – giudicheremo belle. Ad esempio possiamo dare al computer un certo numero di quadri di Van Gogh da memorizzare e creargli un’architettura di neural network appropriata affinché apprenda i manierismi di questo artista. Possiamo poi indicare al computer quali delle opere che ha creato ci sono piaciute, ed esso può crearne di nuove simili a queste ultime. In questo modo esso raffina sempre di più la sua capacità di fare ciò che noi vogliamo. L’IA ingloba quindi una parte del nostro buonsenso, ma solo a livello superficiale, simbolico, mai a livello semantico, poiché non può capire. Noi impariamo anche in questo modo, ma si tratta della parte banale dell’apprendimento: quello dei secchioni, che ripetono a memoria ciò che hanno letto”.
Nella conclusione del suo saggio afferma che l’essenza della nostra natura più profonda si esprime nella cooperazione e nell’amore. È questa una delle barriere che rendono l’IA non assimilabile alla condizione umana?
“Non c’è niente di sbagliato nel pensare che le macchine possano cooperare se insegnamo loro a farlo, fornendo loro delle regole. Diciamo loro cosa significa cooperare e diamo loro esempi di cooperazione. Ma la nostra cooperazione nasce tipicamente dall’amore che proviamo dentro di noi per gli altri e per il prossimo, dal desiderio di aiutarli, dall’empatia che abbiamo con loro. Una delle grosse applicazioni dell’IA saranno i soldati meccanici: uccidere uomini o altri robot – in futuro infatti lo scontro sarà robot against robot. L’uomo dunque si limita a trasferire i suoi problemi alle macchine, che, se usate in quanto macchine, eseguono ciò che viene loro chiesto. Non sarebbe possibile costruire macchine guidate da un amore interno, perché esse non lo possono provare. L’amore non è codificabile, né vi sono algoritmi per insegnarlo”.
