Perché dobbiamo rompere le macchine

Nel 2022, l’artista svedese Steph Maj Swanson stava sperimentando una particolare tecnica di prompting (i comandi che diamo ai sistemi di intelligenza artificiale) che consiste nel chiedere alla macchina di non mostrare qualche elemento o di generare il contrario di esso. Dopo qualche passaggio, nelle sue immagini iniziò a comparire una figura di donna disturbante, da film dell’orrore.

Per quanto Swanson cercasse di allontanare la macchina da quella inquietante figura, per esempio mescolando la sua immagine con altre o generandone di nuove, il volto di Loab (com’è poi stata ribattezzata) continuava a riemergere, accompagnato quasi sempre da altri elementi macabri e deformi. “Era come se il suo volto, una volta evocato, si portasse dietro un’intera estetica dell’orrore, come se fosse agganciato a una regione oscura del modello (d’intelligenza artificiale, ndr). Naturalmente, non si tratta di un risultato previsto e programmato, ma di un’emergenza statistica non intenzionale, scoperta grazie a un uso eretico e caotico delle tecniche di prompting”, scrive Valentina Tanni, docente di Storia dell’arte e tra i massimi esperti italiani di cultura digitale, in Antimacchine.

Proprio gli usi “eretici e caotici”, ma anche artistici e ribelli, delle tecnologie sono al centro del saggio appena uscito per Einaudi e nel quale Tanni ripercorre i modi in cui – ormai da decenni – artisti, hacker, attivisti e anche gli utenti comuni cercando di riappropriarsi della tecnologia, smontandone gli usi previsti e sperimentando metodi sovversivi. L’obiettivo è “rompere la macchina” (o meglio: individuare e fare emergere utilizzi e risultati non previsti) e ritrovare uno spazio in cui poter liberamente usare la tecnologia, invece che essere usati da essa.

Uno dei più noti di questi metodi è il “jailbreaking” dei large language model: un insieme di tecniche di prompting, potenzialmente infinite e in continuo mutamento, che permettono di aggirare le barriere che, per esempio, impediscono a ChatGpt o Gemini di fornire contenuti illegali, violenti o comunque proibiti dalle policy aziendali. Solitamente, a dedicarsi al jailbreaking sono i criminali informatici o, viceversa, gli esperti di sicurezza, che li impiegano per individuare le vulnerabilità del sistema e porvi rimedio.

Eppure, il jailbreaking può essere inteso anche come un atto creativo e addirittura sovversivo: “Infrangere le regole significa anche rompere i sigilli e i sistemi di sicurezza”, spiega Valentina Tanni a ItalianTech. “È una pratica che può certamente essere criminale e pericolosa, ma che può anche diventare un atto politico e creativo, che ci permette di reclamare il diritto a mettere le mani sulla tecnologia, nello spirito della tradizione hacker più positiva e genuina. Tutto dipende dall’intenzione, dalla ragione per cui si vogliono rompere i sigilli. Nei casi artistici di cui parlo nel libro – che non riguardano solo l’intelligenza artificiale, ma anche e soprattutto il web, i computer, i videogiochi – l’obiettivo è sempre quello di riappropriazione della tecnologia, in chiave politica e simbolica”.

Già nel 1965, per esempio, il pioniere della videoarte Nam June Paik realizzò Magnet TV: un televisore su cui era stato appoggiato un magnete industriale che, scrive Tanni, “distorce il segnale e lo trasmuta in un’ipnotica scultura di luce”, producendo “forme immateriali che mutano a seconda di come il magnete viene spostato”. È uno dei tantissimi esempi di quelle che Valentina Tanni, citando l’artista e designer italiano Bruno Munari, chiama “macchine inutili”: perché rifiutano l’ideologia della produttività e del funzionalismo che sta alla base delle tecnologie che usiamo ogni giorno (dallo smartphone ai wearable, fino all’intelligenza artificiale) e perché “non fanno risparmiare tempo e denaro, non producono nulla di commercializzabile”.

Eppure, usare in modi imprevisti la tecnologia (ciò che Tanni chiama “misuso”), cercare in qualche modo di aprire questi sistemi chiusi è uno dei pochi modi che abbiamo non solo per sperimentare e fare arte, ma anche per conoscere e comprendere che cosa davvero abbiamo di fronte: “Proprio tramite l’inutilità si fa l’unico gesto che paradossalmente ci appare utile: mettere in discussione l’ideologia della macchina perfetta, della macchina produttiva che deve ottimizzare ogni aspetto della nostra vita”, prosegue Valentina Tanni. “Come segnalava lo storico Michel De Certeau, i nostri sono però gesti deboli. C’è chi ha il potere e il controllo e chi invece, in questo caso gli artisti o gli hacker, è costretto solo a reagire, sfruttando gli interstizi, gli errori, i buchi che possiamo individuare nelle tecnologie. Perché, per quanto si cerchi, è impossibile chiudere la scatola completamente, come mostra anche il caso del jailbreaking”.

Sarà impossibile, ma i colossi della Silicon Valley sono intenzionati a provarci in ogni modo, creando dispositivi e software che, con la scusa della user-friendliness, ostacolano in ogni modo l’appropriazione della tecnologia e il dialogo tra essere umano e macchina (e qua si crea un’ideale alleanza con gli attivisti per il diritto alla riparazione).

Basti pensare, per fare un esempio quotidiano, all’interfaccia e ai software dei prodotti Apple, che impediscono agli utenti di intervenire sul sistema e di accedere alle sue funzioni profonde. In questo modo, come scrive Tanni, “l’accesso diventa controllo”. È questo squilibrio di potere che rende impari la battaglia portata avanti da artisti e hacktivist, che infatti in svariate occasioni – per esempio, con la cessazione delle attività nel 2015 del collettivo artistico Fat Lab – hanno ammesso la sconfitta e il senso di impotenza di fronte a un sistema tecno-politico sempre più potente e pervasivo.

“Forse l’errore sta anche in questo modo di ragionare fondato sulla vittoria o sulla sconfitta, per cui qualche pratica funziona o non funziona”, precisa Valentina Tanni. “Non potremo mai scardinare certi meccanismi politici-tecnologici con le nostre pratiche deboli. Possiamo però inquinarli. E io trovo che in questo inquinamento, in questa resistenza, ci sia un valore sociale altissimo, anche quando rimane minoritario e anche quando viene riassorbito dal sistema”.

È possibile includere in queste forme di inquinamento anche un fenomeno come l’Italian Brain Rot: una forma memetica che sfrutta i sistemi di intelligenza artificiale per creare un’estetica surreale, volgare e provocatoria? “Non penso che si possa considerare l’Italian Brain Rot un tentativo consapevole di ribellione, ma semplicemente un fenomeno memetico goliardico, con quel classico atteggiamento ‘troll’ che caratterizza tantissime sottoculture online. Lo potremmo considerare un ‘misuso accidentale’, che però dimostra come qualsiasi tecnologia, anche la più prescrittiva, venga sempre in qualche modo modificata dall’uso che se ne fa”, conclude Valentina Tanni.

E infatti, come si legge nell’introduzione di Antimacchine, “il flusso di umanità non può essere neutralizzato (...). La tecnologia, anche all’interno della cornice più rigida, viene costantemente modificata e sfidata dalle persone attraverso l’uso. (...) Anche nell’atto meno creativo di tutti resiste un nucleo insopprimibile di individualità. In sostanza, è impossibile non esprimersi”.