Non spaventatevi, le macchine vivranno con noi

L'introduzione del nuovo algoritmo GPT-4 da parte di OpenAI - che comporta una serie di miglioramenti tecnici e la possibilità di combinare immagini e testi e processare più informazioni di lunghezza enorme - ci ricorda che le macchine intelligenti sono ormai diventate una realtà, mentre ancora non abbiamo le leggi necessarie a convivere con esse. Non è impresa facile, ma è sia necessaria che urgente. Quello che rende l'operazione difficile è che in molti casi non sappiamo che cosa aspettarci da queste macchine, erroneamente cercando in esse un'intelligenza di tipo quasi umano. Questo è pericolosamente fuorviante. 

Un modo utile per capire quello che abbiamo creato è pensare alle varie scorciatoie che ci hanno portato alla loro creazione: mancando una teoria profonda del linguaggio o del comportamento umano, abbiamo usato tecniche statistiche; mancando quantità sufficienti di dati affidabili, abbiamo riciclato tutti i contenuti dell'intero web; e mancando un modo efficiente di chiedere agli utenti che cosa volessero, abbiamo deciso di osservarli continuamente per cercare di capire i loro obiettivi. È così che sono nati gli agenti intelligenti che raccomandano le notizie e i video che consumiamo continuamente. 

Da un lato queste scorciatoie hanno aggirato ostacoli tecnici che avevano impedito il progresso per decenni, dall'altro ci hanno regalato una versione di intelligenza artificiale che non è progettata per comprendere il mondo in modo umano, né per comprendere noi o il significato delle proprie azioni. Adesso è naturale preoccuparsi.

In molti hanno sollevato la possibilità che l'uso prolungato di piattaforme social, mediate da agenti intelligenti incaricati di attirare l'attenzione dell'utente, crei il rischio di dipendenza comportamentale, di polarizzazione ideologica, e di effetti negativi sul benessere emotivo. Altri hanno notato il rischio di decisioni discriminatorie da parte di algoritmi. Quali danni possono risultare dalla generazione automatica e personalizzata di contenuti da parte di sistemi come GPT è ancora inesplorato: le considerazioni vanno dal copyright alla privacy al danno creato da possibili decisioni errate. Quasi tutti questi non sono problemi tecnici, ma culturali, filosofici e politici.

Come possiamo assicurarci che questi nuovi agenti intelligenti - nell'obbedirci alla lettera - non violino le nostre norme, leggi e valori? Non sarà impresa facile, non solo per le difficoltà tecniche, ma anche perché ci obbligherà a confrontarci con una realtà scomoda: non abbiamo una vera comprensione teorica delle norme e dei valori che vogliamo difendere, né comprendiamo ancora gli effetti sociali e individuali dell'uso prolungato di agenti di raccomandazione, e non abbiamo nemmeno raggiunto un consenso sociale su concetti fondamentali come privacy e persuasione. 

Mentre OpenAI non ha ancora rivelato i dettagli tecnici sulle dimensioni di GPT-4, sappiamo che il comportamento di GPT-3 dipende da 175 miliardi di "parametri", ovvero valori numerici che vanno finemente "accordati" durante la lunga e costosa fase di addestramento. Chi al mondo può ispezionare un meccanismo del genere? Questo è il vero volto dei metodi moderni di machine learning, ovvero dell'apprendimento automatico.

Eppure abbiamo già introdotto tecniche di questo tipo al centro dell'infrastruttura digitale da cui dipendiamo: senza machine learning non potremmo avere social media, email, probabilmente nemmeno un web che funzioni adeguatamente. In più stiamo iniziando a delegare alle nostre macchine anche decisioni molto importanti, come quella di concedere un mutuo. 

Visto che non è proponibile il ritorno a un mondo senza IA, dobbiamo creare un mondo in cui possiamo convivere in sicurezza con questa tecnologia, e questo è il problema - non tecnico ma culturale - che ci aspetta: questo dibattito deve includere studiosi del diritto e della filosofia, ma deve partire da una comprensione vera della tecnologia che abbiamo creato, non dalle finzioni del cinema, della fantascienza o del marketing. Quanti la capiscono?

Molto dipenderà dalle scelte che faremo nei prossimi giorni: questa primavera il Parlamento europeo sarà chiamato a votare una nuova legge che si chiama "AI Act", e la posta in gioco è alta: come conviveremo con le nostre creature negli anni a venire. Questa legge distinguerà tra usi diversi e diversi livelli di rischio dell'IA, cercando di bloccare i casi più pericolosi senza limitarne lo sviluppo. Ma molte delle decisioni più importanti saranno lasciate in sospeso, delegandole a una futura "AI Board" preposta alla governance del settore. In ogni caso, qualsiasi richieste legali faremo ai produttori, sarà necessario avere un modo per "ispezionare" questi agenti, un problema ancora largamente aperto.

Le macchine intelligenti non pensano in modo umano, e questo deve riflettersi nel modo in cui le regolamentiamo. La prossima grande sfida per l'IA avrà luogo all'interfaccia tra le scienze sociali, umane e naturali, e la dobbiamo raccogliere, perché in gioco c'è la nostra autonomia e dignità. Ma ecco la mia promessa: lungo la strada impareremo molto su noi stessi, sul rapporto tra la tecnologia e la società, e ne usciremo con una cultura più forte, insieme più scientifica e più umanistica. Prendiamola come un'avventura!

L'autore insegna Intelligenza artificiale all'Università di Bath nel Regno Unito e ha scritto "La scorciatoia. Come le macchine sono diventate intelligenti senza pensare in modo umano" (il Mulino)

Il libro - La scorciatoia  di Nello Cristianini (il Mulino, pagg. 214, euro 16)