Il recente lancio del “robot conversazionale” ChatGPT, sviluppato dall’azienda OpenAI, ha suscitato una miriade di commenti. Il più frequente è stato che il sistema, progettato per rispondere a domande scritte, offre risposte di una qualità sintattica e di una coerenza “stupefacenti”. E tuttavia, come se si volesse di più – rivelando così una mancanza di spirito critico – la constatazione è stata mitigata dal fatto che il risultato appare ancora stentato e che saranno necessari molti ulteriori progressi per arrivare a qualcosa di simile all’eloquio umano. Qui risiede la grande illusione: la convinzione che si tratti di dispositivi che usano una lingua simile alla nostra.
Ragione per cui è opportuno verificare – al di là dei proclami dell’industria del digitale – quali siano le motivazioni alla base di queste tecnologie in grado di sezionare la struttura di corpora …
Il recente lancio del “robot conversazionale” ChatGPT, sviluppato dall’azienda OpenAI, ha suscitato una miriade di commenti. Il più frequente è stato che il sistema, progettato per rispondere a domande scritte, offre risposte di una qualità sintattica e di una coerenza “stupefacenti”. E tuttavia, come se si volesse di più – rivelando così una mancanza di spirito critico – la constatazione è stata mitigata dal fatto che il risultato appare ancora stentato e che saranno necessari molti ulteriori progressi per arrivare a qualcosa di simile all’eloquio umano. Qui risiede la grande illusione: la convinzione che si tratti di dispositivi che usano una lingua simile alla nostra.
Ragione per cui è opportuno verificare – al di là dei proclami dell’industria del digitale – quali siano le motivazioni alla base di queste tecnologie in grado di sezionare la struttura di corpora testuali, disponibili all’interno di una base di dati o liberamente accessibili in rete, per derivarne delle regole semantiche.
La peculiarità di quegli enunciati consiste nell’essere frutto di algoritmi che si nutrono di analisi statistiche e hanno come fonte soltanto registri già esistenti. Ciò non ha nulla a che vedere con i presupposti del linguaggio “naturale”. Caratteristico del linguaggio umano infatti è l’essere frutto di una tensione fra un vasto repertorio di parole e regole grammaticali e la nostra capacità di generare formule, in un rapporto col tempo che non è un mero attaccamento al passato ma una dinamica coniugata al presente e in costante divenire.
Quando parliamo o scriviamo, attingiamo da un oceano di fraseologia, adattandola al contempo, in modo indeterminato, a un contesto ogni volta specifico. Ogni locuzione, scritta o parlata, deriva da uno slancio che supera invariabilmente ogni precedente schematizzazione. Questa dimensione è assente nel linguaggio della macchina, che risponde solo a determinate funzionalità. Vale per l’assistente Siri (di proprietà di Apple) che ci chiede “cosa posso fare per te?” o per i dispositivi connessi come Alexa.
Anziché domandarci ingenuamente se questi sistemi si sostituiranno presto a noi nella stesura di testi – segno di una nostra definitiva rinuncia all’uso della ragione – riusciamo a vedere quale modello di civiltà si sta sommessamente affermando? È un modello che deriva da una doppia trasformazione del nostro rapporto con la lingua e che vede, da un lato, intelligenze artificiali dette “generative”, dotate di eloquio e di espressioni in apparenza identiche alle nostre, a cui verrà progressivamente delegato il compito di gestire i rapporti interpersonali e molte delle nostre faccende quotidiane, conducendoci lungo una china che finirà per privarci di quella facoltà che determina il nostro diritto a pronunciarci in prima persona e a comportarci secondo il nostro giudizio all’interno di una società libera e plurale.
Dall’altro lato – ed è l’obiettivo principale – vede perfezionarsi tecnologie che ci rivolgono parole gentili, dal tono familiare e intimo, che consideriamo superiori a noi nel giudizio e che ci stimolano a comportarci in un modo anziché in un altro, in un rapporto dialogico strumentalizzato. Questo modello, grazie ai costanti progressi dell’intelligenza artificiale, è all’opera già da una quindicina d’anni. Comporta l’interpretazione dei nostri gesti e il suggerimento robotizzato di altri gesti, per nostra presunta maggiore comodità. E così, d’ora in avanti, sul capitalismo della “sorveglianza” prevarrà quello dell’“amministrazione del nostro benessere”, nel quale non cessiamo di avvilupparci.
È opportuno notare anche che questi dispositivi sono sempre più sofisticati, soprattutto grazie al machine learning (l’apprendimento automatico), e puntano a assumere modi sempre più naturali e difficilmente resistibili.
Questa lingua industrializzata, che prende il posto della nostra fornendo un orientamento continuo, diventerà una consuetudine, soprattutto per le nuove generazioni, che presto troveranno queste abitudini molto comode e perfettamente naturali. Vi è all’opera anche un processo epigenetico: la nostra mente, fatta per avere il pieno controllo, si lascerà trascinare da questi sistemi riducendo gradualmente l’esercizio delle proprie facoltà espressive. La portata delle conseguenze dello sviluppo di queste tecnologie, infatti, va valutata in una prospettiva a medio e lungo termine. Questi enormi sconvolgimenti sono prima di tutto opera dell’industria digitale. Di Elon Musk, per esempio, che ha creato OpenAI, oggi di proprietà di Microsoft, ma anche di altre aziende di tutto il mondo fortemente impegnate in quest’ambito di ricerca.
“Chi parla?” si chiedeva Nietzsche. Oggi si tratta forse di programmi la cui lingua, privata delle sue dinamiche vitali, trasmette una visione del mondo fondata su un riduzionismo e un utilitarismo generalizzati? O sono invece le nostre voci – ognuna unica – le uniche in grado di stabilire legami attivi con gli altri e con il mondo reale? Oggi più che mai è giunto il momento di fare della questione della lingua, quella che vogliamo parlare – in prima persona e in un contesto veramente collettivo – la questione morale, politica e civile, la questione primaria del nostro tempo.
Éric Sadin è un filosofo, esperto del mondo digitale, la sua ultima opera pubblicata è Io tiranno. La società digitale e la fine del mondo comune (Luiss University Press, 2022).
Traduzione di Alessandra Neve