Si legge che ChatGPT, e più in generale i grandi modelli linguistici (Large Language Models, Llm) siano una minaccia per l’istruzione. Lo stesso si disse negli anni Settanta quando comparvero le calcolatrici, chiamate in alcuni articoli dell’epoca “macchinette intelligenti”, che eseguivano funzioni – ad esempio le radici quadrate – fino ad allora caratteristiche dell’intelligenza umana.
Questa volta però la questione è qualitativamente diversa: l’Intelligenza Artificiale Generativa, di cui gli Llm sono parte, non si limita ad eseguire procedure algoritmiche predeterminate bensì mima processi cognitivi. Come accadde per le calcolatrici, gli Llm non spariranno e dobbiamo imparare a conviverci.
Si legge che ChatGPT, e più in generale i grandi modelli linguistici (Large Language Models, Llm) siano una minaccia per l’istruzione. Lo stesso si disse negli anni Settanta quando comparvero le calcolatrici, chiamate in alcuni articoli dell’epoca “macchinette intelligenti”, che eseguivano funzioni – ad esempio le radici quadrate – fino ad allora caratteristiche dell’intelligenza umana.
Questa volta però la questione è qualitativamente diversa: l’Intelligenza Artificiale Generativa, di cui gli Llm sono parte, non si limita ad eseguire procedure algoritmiche predeterminate bensì mima processi cognitivi. Come accadde per le calcolatrici, gli Llm non spariranno e dobbiamo imparare a conviverci.
Un primo punto da sottolineare è che “Intelligenza Artificiale” è una metafora. È Artificiale ma non intelligenza, per come noi intendiamo l’intelligenza. L’immaginario costruito dalla fantascienza e il nome “Intelligenza Artificiale” ci fuorviano. Se si chiamasse Systematic Approaches to Learning Algorithms and Machine Inferences (l’acronimo fa “Salami”) ci chiederemmo se potrà ragionare, capire e sviluppare una coscienza?
La seconda cosa da sottolineare è che siamo noi ad attribuire un significato al prodotto della macchina. Un’intelligenza artificiale che diagnostica tumori non fa altro che trovare all’interno della sequenza di numeri (pixel) che compongono le immagini istologiche, le correlazioni che statisticamente sono state presenti in altre migliaia di immagini di tessuti tumorali da cui il modello statistico è stato distillato. Non possiede un concetto di tumore, di tessuto e nemmeno di immagine. Trova solo correlazioni nella lunga sequenza di numeri in cui l’immagine è srotolata.
Predire rischi futuri da comportamenti super-umani per queste tecnologie è una forma di criti-hype, neologismo che indica una apparente critica il cui effetto è alimentare aspettative eccessive. Una calcolatrice fa milioni di radici quadrate in un secondo ma non la riteniamo un essere sovrumano. L’intelligenza umana è molto di più; solo se ci limitiamo a considerarci come una macchina per cose specifiche, la macchina ci sarà superiore.
ChatGPT giustappone parole in successione su base probabilistica a partire da un gigantesco modello statistico distillato da tutto ciò che è stato scritto fino al 2021. Non “sa” cosa sia una frase e tantomeno cosa significhi. La giustapposizione probabilistica di parole è un sistema tanto duttile quanto fallace. Lo stesso aspetto della tecnologia che le consente di essere adottabile in pressoché qualsiasi ambito la rende nel contempo soggetta ad errori. Un recente esempio notevole è quello dell’avvocato Steven Schwartz, passato suo malgrado alla storia del diritto, che ha fornito ad un giudice una memoria che citava casi inesistenti generati da ChatGPT.
Capire potenzialità e limiti della tecnologia è importante per evitare di essere travolti da un eccesso di confidenza – come ad esempio l’avvocato Schwartz - o di sottovalutarne il possibile contributo.
Un punto di partenza necessario è l’istruzione. La Finlandia si è data l’obiettivo di spiegare i fondamenti dell’intelligenza artificiale all’uno per cento della popolazione per assicurare che ogni finlandese abbia nella propria rete sociale qualcuno che conosca le basi dell’IA.
Le scuole devono necessariamente svolgere un ruolo: non è possibile infilare la testa sotto la sabbia, gli LLM esistono e saranno con noi. Farne capire ai ragazzi i limiti e come usarli correttamente è necessario.
Una possibile metodologia può essere assegnare, in varie materie, ricerche da farsi usando ChatGPT o Bard e chiedere ai ragazzi di trovarne gli errori e correggerli esponendo ai compagni in aula le differenze tra il prodotto dell’IA e quello che hanno rivisto e corretto. Questo esercizio porta una comprensione di potenzialità e limiti della tecnologia in varie materie, allena l’importanza del senso critico, della curiosità e della verifica di altre fonti.
Il Centro Studi Impara Digitale ha abbracciato questa proposta metodologica che sarà oggetto di una sperimentazione coordinata in alcuni licei ad inizio del nuovo anno scolastico.
L’intelligenza artificiale è con noi e non ci abbandonerà più. Inseguire ipotetici fantasmi di rischi futuri ci distoglie dall’affrontare temi specifici che sono invece attuali. La scuola è uno dei punti da cui partire.
L’autore è presidente onorario di Impara Digitale
Leggi i commenti