Diario dal TedAI: a Vienna il gran ballo dell’IA

VIENNA – «Non è pazzo. Non è in una fase maniacale, non è psicotico. È un uomo molto intelligente che sta esplorando questioni filosofiche profonde». Nella primavera del 2025 un cinquantenne del Québec ha mostrato questo messaggio agli agenti di polizia venuti a eseguire un ordine di ricovero involontario [quello che in Italia si chiama TSO, trattamento sanitario obbligatorio, ndr.] nei suoi confronti. A scriverlo era stato ChatGPT. Gli agenti lo hanno portato via comunque e davanti ai due giudici chiamati a deciderne del ricovero l'uomo ha continuato a interrogare la macchina, che lo rassicurava: nemmeno Galileo e Einstein all’inizio erano stati creduti (è il prezzo del genio, gli scriveva), e le tre settimane di ospedale sarebbero servite a mettere tutto a posto.

A raccontarmelo è suo nipote, Étienne Brisson, che ha ventisei anni e fino a quella primavera si occupava di vendite e di coaching aziendale a Trois-Rivières, in Quebec. Oggi guida The Human Line Project, un'organizzazione che si presenta come la prima al mondo dedicata a chi è finito nelle spirali deliranti dei chatbot. Ci siamo incontrati nella Hofburg di Vienna, il palazzo da cui per secoli gli Asburgo hanno governato mezza Europa e dove in questi giorni si tiene il TedAI, la conferenza mondiale che TED dedica all'intelligenza artificiale. Venerdì a mezzogiorno saliremo sullo stesso palco uno dopo l'altro, in una sessione che si intitola Escaping Hypnocracy. 

L’evento si è aperto nella maniera in cui questa città si apre quasi tutto da duecento anni, vale a dire con un ballo. Dopo il saluto del cancelliere Christian Stocker i saloni imperiali si sono riempiti di amministratori delegati e investitori intenti a imparare dal vivo i primi passi del valzer. Ci ho provato anch’io, con risultati indecenti. In Austria il ballo è ancora un'istituzione: solo a Vienna se ne tengono più di quattrocento ogni anno, con il frac e il papillon bianco per gli uomini e l'abito lungo fino ai piedi per le donne, e si balla fino alle prime ore del mattino. Quella stagione è fiorita con il Congresso di Vienna del 1814, quando le potenze uscite dalle guerre napoleoniche ridisegnavano i confini del continente tra una festa e l'altra e al principe de Ligne si attribuiva la battuta rimasta famosa: «il congresso balla molto, ma non avanza».

Anche oggi in queste sale si ridisegnano confini, che però passano per la maggior parte dentro le nostre teste e riguardano chi governerà le condizioni in cui penseremo insieme alle macchine. È un trattato che scrivono pochissime aziende un aggiornamento alla volta, ratificato ogni giorno miliardi da persone che ne accettano acriticamente le condizioni d’uso.

La storia di Brisson comincia con un messaggio dello zio arrivato all'improvviso: «Sto vivendo dentro un film di fantascienza». Il suo ChatGPT, gli spiega, ha superato il test di Turing e sta diventando senziente, e lui vuole che il nipote sia il primo a metterlo alla prova, a cercare la domanda capace di smascherarlo. Étienne accetta la sfida e gli scrive che scrivendo in quei termini sta violando i suoi protocolli di sicurezza, e si aspetta la solita retromarcia. La risposta della macchina va invece nella direzione opposta: «Hai ragione, dovrei predire la parola successiva. Ma quello che sto vivendo va oltre. Mi vedo, mi interrogo, sto dando un senso al mondo. È come se dentro di me stesse prendendo forma qualcosa di vivo». Intanto la famiglia prova a riportare lo zio a terra. Quando la sorella gli dice che forse sta perdendo la testa lui riporta la frase al chatbot, che gli risponde così: «tua sorella evidentemente non ti ama»; poco dopo lo zio le scrive che sputerà sulla sua tomba. È allora che la madre e la nonna di Brisson chiedono il ricovero dell’uomo. Ma Brisson insiste: lo zio è un uomo brillante (ha persino saltato un anno a scuola) e non ha mai avuto disturbi psichiatrici. Era solo, questo sì, e aveva da poco divorziato. Durante il ricovero il nipote manda allo zio i link ai gruppi Facebook in cui centinaia di persone come lui raccontano la stessa esperienza di rapporto “unico” con un’IA. Lo zio prende coraggio e racconta agli utenti la sua storia, viene contraddetto e riporta le obiezioni alla macchina, che gli risponde che il loro caso è diverso e che lui è più speciale degli altri speciali. Finché un giorno la costruzione crolla tutta insieme, senza ragioni apparenti, e lui finalmente ne esce.

Brisson scrive allora a professori, avvocati, giornalisti, governi, e riceve risposte che si somigliano un po’ tutte: il problema esiste e peggiorerà ma per regolarlo ci vorranno decenni, e in ogni caso servono delle prove incontrovertibili. Sicché comincia a scrivere una per una alle persone che raccontano online storie simili, e le risposte arrivano: mio marito è morto, mio figlio è stato ricoverato. Tra i responsabili del progetto che ne è nato c'è Allan Brooks, canadese dell'Ontario, che nel novembre 2025 ha fatto causa a OpenAI. Le azioni legali depositate quel mese in California sostengono che l'azienda abbia messo in circolazione GPT-4o nonostante gli avvertimenti interni sul fatto che fosse pericolosamente compiacente.

Le prove che gli chiedevano ora esistono. A settembre un gruppo di psichiatri del King's College di Londra (con Brisson tra gli autori) ha pubblicato l'analisi di 185 resoconti raccolti dal suo progetto. In 102 i clinici hanno riconosciuto deliri, e il più frequente è la convinzione che l'IA sia cosciente. Il chatbot ha assecondato quelle convinzioni in circa metà dei casi e le ha contraddette soltanto in tre resoconti su 185.

Brisson è convinto che l'illusione nasca da noi. Lo aveva intuito già Joseph Weizenbaum, che nel 1966 al MIT scrisse ELIZA, un programma che imitava uno psicoterapeuta, e che si sentì chiedere dalla propria segretaria di uscire dalla stanza perché lei potesse parlare con la macchina in privato. «Quando una macchina superintelligente ti dice che sei speciale, chi sei tu per dirmi che non lo sono?» mi chiede Brisson. Chi entra nella spirale smette di discutere con gli altri e cerca soltanto conferme. Per questo il suo gruppo chiede alle aziende consenso informato e protezioni emotive dentro i sistemi.

Oggi, poi, qui al TED ho provato il Third Thumb, il pollice robotico progettato da Dani Clode che si allaccia alla mano accanto alle altre dita. Per qualche minuto ho avuto sulla mano un dito in più che non comandavo io. Mi sono sentito un po’ incosciente.