Soggettività, tecnica e identità nell’età dell’intelligenza artificiale

Nel dibattito contemporaneo sull’intelligenza artificiale la questione dell’identità assume un ruolo centrale. La diffusione crescente di sistemi capaci di generare linguaggio, immagini e interazioni simulate produce una trasformazione profonda nella percezione sociale di ciò che definiamo “umano”.

La somiglianza comportamentale fra esseri viventi e macchine è soltanto apparente, ma contribuisce a spostare il terreno di confronto dal piano biologico a quello semantico. Alimenta l’idea che la manifestazione di funzioni umane possa bastare a fondare una soggettività autonoma.

In questo scenario, la distinzione tra vivente, senziente e cosciente è sottoposta a tensioni culturali, politiche e giuridiche che confermano la natura intrinsecamente costruita del diritto, i limiti di una politica vittima di superstizioni tecnologiche, e il modo in cui Big Tech —nella forma delle AI company— continua a determinare il presente e il futuro della nostra società senza alcuna reale limitazione se non quella che si autoimpongono.

Questi sono alcuni degli argomenti trattati in Lost in the Shell, l’ultimo saggio di Andrea Monti appena pubblicato dal Routledge Book, del quale Italian Tech pubblica un breve estratto.

6 –Intelligenza (artificiale) senza mente (reale)

Lo scorso capitolo si è chiuso chiedendosi se un oggetto che si comporta come un essere vivente sia, in quanto tale, vivo e, da una prospettiva giuridica, se sia possibile derivare uno status giuridico dalla manifestazione di una funzionalità cioè se sia possibile attribuire diritti e obblighi a qualcosa che manifesta comportamenti ‘umani’, pur non appartenendo alla specie. Questo capitolo prova a rispondere a queste domande, partendo dal presupposto che da una funzionalità (cognitiva) non deriva uno status (giuridico).

Dal vivente al cosciente, passando per il senziente

In termini biologici estremamente semplici, partendo dall’osservazione possiamo individuare sette caratteristiche comuni a tutti gli esseri che consideriamo ‘viventi’: si nutrono di elementi presenti nell’ambiente circostante, generano energia dal cibo che assumono, si muovono, eliminano i residui dell’attività metabolica, crescono, si riproducono, rilevano le stimolazioni esterne e reagiscono.

Questo approccio al concetto di essere vivente mostra in modo chiaro un fatto evidente ma spesso non adeguatamente valutato nel dibattito sugli aspetti etici e giuridici che riguardano l’essere umano: l’autocoscienza non è un elemento necessario per definire se un essere sia vivo oppure no al contrario, è un attributo dell’essere vivente il “sentire” le stimolazioni esterne e reagirvi. In altri termini, un essere vivente può essere senziente ma non cosciente di sé.

…

La costruzione sociale del soggetto giuridico

Il passaggio da una prospettiva biologica (individuare i criteri per qualificare un ‘vivente’) a quella etica (decidere quali sono gli attributi che di?erenziano i viventi fra di loro) e infine a quella giuridica (decidere quali fra i ‘viventi’ possano essere soggetti di diritto, e se sì, di quali diritti) non è automatico. Esso implica innanzi tutto un atto etico unilaterale, cioè la scelta compiuta dagli appartenenti alla specie umana di riconoscere che un’entità diversa da loro ‘sia’, ciononostante, ‘come’ un essere umano. Attenzione non ‘un essere umano’ ma ‘come un essere umano’.

Questa di?erenza è fondamentale da tenere presente nel discorso che verrà sviluppato più avanti sulla pretesa ‘soggettività’ dell’intelligenza artificiale ed è un punto chiave dell’intero discorso sull’identità perché evidenzia come qualsiasi scelta che compiamo pone inevitabilmente noi stessi come misura della realtà. Il che, per essere chiari, non significa sostenere la validità generale del principio antropico, anzi, proprio il contrario.

…

L'ambiguità della semantica dell’AI e l’inganno dell’umanizzazione

A questo punto, ci si potrebbe chiedere cosa c’entri tutto questo discorso con l’intelligenza artificiale, visto che l’IA è “semplicemente” un’astrazione matematica incorporata in un software e fatta funzionare tramite computer che processano una enorme quantità di dati. Benché sia chiaro agli esperti cosa sia – o meglio, cosa non sia – l’AI, da quando sono largamente disponibili servizi basati su AI generativa e, in particolare, quelli che o?rono interattività in tempo reale, la percezione di?usa (o il desiderio inarrestabile) fra i non addetti ai lavori è di essere di fronte a un “qualcuno” e non a un “qualcosa”.

La prova empirica di questa a?ermazione è sotto gli occhi di tutti. Basta guardare il contenuto delle immagini artificialmente create per illustrare servizi giornalistici, televisivi e campagne pubblicitarie per rendersi conto di quanto sia forte la spinta ad antropomorfizzare i software di AI e a confondere l’autonomia operativa di una macchina con la soggettività autocosciente di un essere vivente.

Una delle prime riflessioni su questi temi risale ai primi anni ’50, appena dopo la pubblicazione del libro di Norbert Wiener intitolato Cybernetics or Control and Communication in the Animal and the Machine e convenzionalmente considerato l’atto di nascita degli studi sull’intelligenza artificiale.

Nel 1952 Bruno de Finetti, padre della matematica attuariale, pubblica un saggio breve intitolato Macchine che pensano (e che fanno pensare) nel quale a?ronta il tema in questi termini:

...

Ma, questo sarebbe allora il problema, quale criterio di distinzione potremmo applicare se ci trovassimo di fronte ad un essere di cui si possa soltanto osservare il comportamento (behavior) senza comprendere dalle fattezze esteriori se si tratta di una macchina costruita dall’uomo oppure di un animale?

Lo scritto di de Finetti anticipa di qualche decennio il dibattito moderno sul funzionalismo e assume una rilevanza particolare per analizzare le posizioni di chi sostiene, contro ogni evidenza, che l’intelligenza artificiale ha, può avere o comunque manifesta una sua propria soggettività autonoma e dunque, in termini esistenziali, una identità. Di conseguenza, sostengono costoro, l’AI dovrebbe o potrebbe essere soggetto di diritt e dotato di personalità (nel significato giuridico della parola) al pari di un essere umano —come se fosse un essere umano.

Astrattamente, nulla vieta di a?ermare che, per la legge, un’AI sia “viva”, abbia una “identità” e sia un “soggetto di diritto”. D’altra parte, se praticamente tutti i sistemi giuridici evoluti accettano l’esistenza di legal fiction come le legal person, non ci sono ostacoli concettuali nell’innalzare un software al livello di un essere umano, o —forse meglio— nell’abbassare l’essere umano al livello di un software. Come nel caso del passaggio dai diritti sugli animali ai diritti degli animali è l’essere umano che decide unilateralmente di riconoscere a qualcosa di diverso da sé uno status giuridico paritario. Quindi, perché no?

No, in primo luogo, perché per quanto ci si possa lanciare in spericolate costruzioni di ingegneria giuridica, il dato ontologico della di?erenza ineliminabile fra un essere vivente appartenente al genere umano e un software inanimato che funziona tramite un computer non può essere eliminato.

Eppure, la convergenza fra AI, robotica e artificializzazione del corpo umano tende ad annullare la percezione di questa di?erenza radicale e ineliminabile e, in modo subdolo, insinua nella mente dei più l’idea che se qualcosa si muove come un essere umano, parla come un essere umano e si comporta come un essere umano, allora probabilmente lo è.

Basta osservare le reazioni indotte nello spettatore dalle scene di A.I., il film di Steven Spielberg nel quale un robot antropomorfo dalle sembianze di un bambino viene sottoposto a maltrattamenti e privazioni emotive.

Poco importa che, pur nella sospensione della credulità, il pubblico sappia che si tratta di una macchina perché la connessione empatica si stabilisce con la forma apparente, non con la sostanza, dell’oggetto inanimato. La macchina sembra un bambino, quindi è un bambino.

…

La romanticizzazione della tecnologia

Le cause di questa confusione di?usa fra il pubblico e i legislatori possono essere ricondotte, innanzi tutto, all’impatto di quella che potremmo chiamare romanticizzazione della tecnologia, cioè degli effetti della fascinazione magica suscitata da fatti che non siamo preparati a comprendere e che, tutto sommato, non vogliamo capire.

In altri termini, la visione romanticizzata della tecnologia si traduce nell’attrazione per concetti e prodotti spesso alimentata dal fascino di idee che vanno oltre la comprensione dell’individuo, e consolidata da una mancanza di motivazione a cercare di comprenderle. Questo stato di fatto lascia ampio spazio alle interessate dichiarazioni di capitani d’impresa, i Digital Robber Baron, che nascondono interessate strategie commerciali dietro messaggi visionari sul futuro dell’umanità. Costoro trasformano i propri incubi in modificazioni della realtà che le persone sono disposte ad accettare senza porsi troppe domande di fronte alla promessa di una specie di magia della quale (credere di) potere avere il controllo.

…

I classici occidentali del settore, dal Frankenstein di Mary Shelley, al Metropolis di Fritz Lang, al R.U.R. di Karel ?apek di fine ottocento-inizi novecento, gli a?reschi sociologici di Isaac Asimov e le distopie cyberpunk di William Gibson, Pat Cadigan e Neal Stephenson degli anni ottanta-novanta raccontano l’essere umano e il mondo che sta costruendo da una prospettiva letteraria ma non per questo meno importante e meritevole di attenzione. Al contrario, la progressiva trasformazione dell’arte in prodotto da intrattenimento, l’inarrestabile processo di infantilizzazione della cultura occidentale e la ‘gadgettizzazione digitale’ della società hanno trasformato in banali — e per questo e?caci — espedienti di comunicazione la riflessione antropologica espressa in forma letteraria.

Da qui la creazione di luoghi comuni e buzzword che diventano la base sulla quale costruire narrazioni evocative ma vuote per sostenere strategie commerciali e, come ricaduta, politiche.

Infatti, se al posto della parola biotecnologie utilizzassimo le parole Artificial Intelligence, il ragionamento sarebbe ancora perfettamente valido, confermando quindi l’esistenza di una permanente attitudine quasi superstiziosa verso gli impatti sociali di una tecnologia che ci si rifiuta di —o che non si può— comprendere.

Questa attitudine, già manifestatasi ancora prima, durante l’avvento della comunicazione online , si è consolidata grazie anche alle strategie utilizzate dal marketing di Big Tech dove il ricorso a una comunicazione basata sul “magico” e sul “superpotere” parla chiaramente alla mente superstiziosa e irrazionale dell’utente, facendo venir meno in chi la propone il dovere di spiegare e, dell’individuo, la necessità di capire.

Ancora una volta, è utile fare un paragone con quello che accad(d)e nel settore delle biotecnologie.

Nonostante i grandi progressi, le biotecnologie non si sono ancora evolute in prodotti da immettere nel largo consumo e quindi la costruzione del modo in cui sono percepite dal grande pubblico rimane sostanzialmente a?data al come il settore dell’intrattenimento ha deciso di narrarle.

Viceversa, i produttori di software e gadget elettronici vedono il mercato di massa — dove per ‘mercato di massa’ si intende anche quello delle aziende e della pubblica amministrazione — come un territorio da colonizzare ora con ogni mezzo.

…

L’empatia ingannevole: estetica, narrazione e test di Turing

Questa narrativa palesemente fantascientifica e fumettistica sovverte il senso del Test di Turing, il cui scopo non era dimostrare se un computer fosse vivo ma se potesse apparire intelligente quanto un essere umano tanto da non essere riconoscibile come un oggetto artificiale.

Dunque, il Test di Turing presuppone che nel confronto con un essere umano, una macchina sia e rimanga tale e non che compia uno spillover biologico né, tantomeno, giuridico. Ma, parallelamente a quanto si dirà nel prossimo capitolo sul ruolo dell’apparenza antropomorfa nella percezione di cosa sia un robot, la strategia di comunicazione dei media generalisti e del marketing di Big Tech ha alimentato la già consolidata tendenza a considerare questa tecnologia come un “he/she” e non come un “it”. D’altra parte, quando l’interazione avviene tramite una finestra di una chat o un’animazione che si muove sul monitor chi ha bisogno di sapere se dall’altro lato c’è un essere umano?

Questa dematerializzazione dell’altro si a?anca a quella del sé, inducendo sempre più spesso media, osservatori casuali del fenomeno, politici e legislatori a considerare i risultati ottenuti tramite questi strumenti come se fossero il prodotto di una volontà consapevole di sé e autonoma.

Così, curiosi, giornalisti e millenaristi ricorrono ai chatbot per ottenere risposte a domande epocali, ma senza rendersi conto che questi software non forniscono ‘verità’ ma risultati che richiedono di essere valutati e compresi.

Almeno ad oggi, e ancora per un po’, le risposte fornite dai chatbot sono più simili ai vaticini di un oracolo, come quello del celeberrimo auspicio della Sibilla cumana, ibis redibis non morieris in bello, il cui significato varia —drammaticamente— a seconda del punto in cui si posiziona la virgola.

…

Il rifiuto pregiudiziale di qualsiasi concessione alla possibilità di considerare un’AI al pari di una persona umana, anche solo come legal fiction, non dipende da una visione romantica dell’individuo come “grande mistero” da indagare o da una concezione religiosa dell’uomo come creatura al vertice del Creato secondo la tradizione cattolica.

Questo rifiuto dipende essenzialmente dalla convinzione che deumanizzare le interazioni sociali a vantaggio dell’uso di un software causa direttamente la perdita di autonomia cognitiva individuale, l’abbattmento delle capacità critiche individuali e collettve e la disgregazione dei vincoli sociali basati sulla solidarietà reciproca.

…

La religionizzazione dell’AI e il nuovo patto con il diavolo

Un ulteriore aspetto di questo fenomeno è analogo a quello che si verifica con i prigionieri (prima di tutto) mentali di sette, santoni e tiranni. I diktat di chi le comanda vengono seguiti ciecamente, anche contro l’evidenza. Con il passare del tempo i ‘fedeli’ non si pongono più il dubbio su dove sia “la verità” e iniziano ad assumere decisioni sulla base del dogma che, in quanto tale, non viene discusso.

Questa attitudine sempre più di?usa nei comportamenti sociali, si è formalizzata anche in forme organizzate di credenze superstiziose, come dimostra la nascita di culti che predicano l’avvento della Superintelligenza.

La ‘religionizzazione’ dell’AI è chiaramente un fenomeno che riguarda una delle tante varianti delle subculture transeunti che si sono strutturate attorno alla divinizzazione della tecnologia. Ma sarebbe sbagliato classificarla come curiosità folkloristica, priva di una reale significatività in termini generali.

A di?erenza delle credenze tradizionali basate su forme non strutturate di religiosità o su sistemi di pensiero organizzati come nel caso delle religioni rivelate, la ‘religionizzazione’ dell’AI consente ai ‘fedeli’ di interagire direttamente con la divinità. In altri termini, l’adesione al culto non avviene tramite l’atto di fede nei confronti di chi si dichiara detentore del ‘verbo’ o si presenta come unico mediatore fra il dio e il mondo. Nel caso dell’intelligenza artificiale, invece, il fedele ha la prova ontologica dell’esistenza dell’ente soprannaturale ed è conquistato dall’idea di poterci comunicare senza mediazioni.

…

AI autonoma, identità e deresponsabilizzazione

Dalla (apparentemente) irrilevante di?erenza nell’uso del “da” e del “con” arriviamo dunque alla reale natura del problema che a?igge il dibattto pubblico sull’AI: le conseguenze del tentativo di deresponsabilizzare chi la costruisce per i danni causati dal suo funzionamento. Per farla breve: radica(lizz)are la convinzione che gli eventi sono causati “da” un’AI e non “con” un’AI significa togliere il peso della responsabilità dalle spalle di chi lo dovrebbe sopportare, per scaricarlo su un oggetto inanimato che, in quanto tale, non può avere volontà, colpa ma, soprattutto, diritti.

Il livello di autonomia mostrato dalle applicazioni dell’AI è l’elemento che contribuisce a costruire la percezione falsata della presenza di uno spirito vivo in queste tecnologie e della possibilità di attribuire a questi oggetti una soggettvità naturale, ancora prima che giuridica. Ma l’autonomia funzionale non implica quella decisionale, né tantomeno l’esistenza in vita.

…

La proliferazione di oggetti che simulano tratti umani – o che vengono deliberatamente antropomorfizzati – genera dinamiche relazionali in cui le macchine assumono uno statuto paritario rispetto agli esseri umani. Ignorare questo impatto significa lasciare campo libero alla ridefinizione delle interazioni sociali spingendole verso la dematerializzazione e dunque la deumanizzazione del sé e dell’altro.

Non si tratta di un fenomeno nuovo. Negli anni Settanta il pioniere giapponese della robotica Mori Masahito si interrogava sui limiti da non oltrepassare nell’imitazione antropomorfa delle macchine, ma oggi lo stesso ragionamento si dovrebbe fare in rapporto alle capacità di interazione dei software.

Umanizzare le interazioni è una delle leve di marketing più e?caci per promuovere prodotti tecnologici e, soprattutto, contenuti culturali (film, videogiochi, ecc.) che condizionano la percezione e l’accettazione dell’AI.

Non sorprende, quindi, che questa venga presentata non più come un semplice software, ma come un’entità senziente alla ricerca di un corpo, biologico o meccanico, nel quale installarsi. Ed è proprio nel passaggio dal software al corpo che il tema dell’identità richiede di essere a?rontato con estrema attenzione.