Ecco perché l’Intelligenza artificiale non può restare solo nelle mani del mercato

Se l’AI ha un radicale impatto sociale e rischia di consolidarsi meno come nuovo prodotto commerciale e più come infrastruttura permanente di potere e controllo allora la sua direzione non può essere lasciata esclusivamente alle dinamiche del mercato o alla competizione geopolitica.

Per chiarire questo punto è utile interrogarsi su come viene definito il valore all’interno dei sistemi economici che orientano lo sviluppo tecnologico. Come ricordano Giovanna Badalassi e Federica Gentile, il termine «economia» deriva dal greco oikonomia, cioè amministrazione della casa, e rinviava originariamente alla gestione della vita quotidiana e delle relazioni sociali.

Nel corso della modernità questo significato si è progressivamente spostato verso la sfera della produzione e del mercato, mentre attività fondamentali per la qualità e la riproduzione della vita – come il lavoro di cura – sono state marginalizzate o rese invisibili. L’economia femminista propone di ribaltare questa prospettiva, mettendo al centro proprio quelle attività che rendono possibile ogni altra forma di lavoro e di produzione. Come osserva Marcella Corsi, la costruzione di un modello economico più giusto richiede un ruolo proattivo delle istituzioni pubbliche e una diversa concezione delle relazioni sociali, fondata sulla cura. L’economia femminista rappresenta un tentativo di costruire un paradigma alternativo capace di mettere al centro le persone, le relazioni sociali, la sostenibilità della vita e la dimensione democratica delle scelte economiche, contrastando le molteplici disuguaglianze generate dal modello dominante.

Una simile ridefinizione del valore mostra la strada da intraprendere alle scelte pubbliche che orientano lo sviluppo tecnologico: piuttosto che inseguire maggiore competitività e autonomia nei nuovi ambienti digitali l’obiettivo dovrebbe essere quello di investire diversamente, come suggerisce Atkinson, equilibrando i finanziamenti all’innovazione tecnologica con quelli in innovazione sociale. Rimettere al centro il capitale umano significa rimettere al centro la persona, e la cura, perché se le risorse che il settore pubblico investe in tecnologia non sono al servizio del miglioramento della vita delle persone sulla terra, cui prodest?

Negli ultimi anni l’innovazione digitale è stata presentata come soluzione automatica a problemi sociali complessi, mentre le scelte vengono sempre più influenzate da una nuova logica geopolitica della conoscenza. L’intelligenza artificiale, le infrastrutture digitali, i semiconduttori e i sistemi di dati sono diventati elementi centrali della competizione tra potenze economiche, e la ricerca scientifica è progressivamente entrata nel linguaggio della sicurezza, della competizione strategica e della sovranità tecnologica.

Questa trasformazione rischia di produrre una contraddizione profonda. Da un lato, la scienza contemporanea si fonda su processi di cooperazione internazionale, circolazione dei dati e condivisione del sapere che hanno storicamente alimentato l’innovazione globale. Dall’altro, la crescente chiusura dei sistemi tecnologici e la tendenza a considerare la conoscenza come un asset strategico da proteggere minacciano proprio quelle condizioni di apertura che hanno reso possibile lo sviluppo scientifico degli ultimi decenni.

La questione non è scegliere tra condivisione e autonomia, ma evitare che la ricerca venga progressivamente catturata da logiche di competizione geopolitica o da interessi industriali concentrati. Per questo motivo, nelle strategie per una nuova stagione dell’intelligenza artificiale, il nodo decisivo è il reindirizzamento delle politiche legate all’innovazione. Occorre rafforzare modelli di innovazione aperta, sostenere infrastrutture pubbliche della conoscenza, promuovere la trasparenza degli algoritmi e ampliare la partecipazione di università, istituzioni pubbliche e società civile nei processi di sviluppo tecnologico.

In una direzione non lontana si colloca la proposta delle Scientist AI, avanzata da Yoshua Bengio e altri ricercatori, che invita a separare due dimensioni oggi sempre più intrecciate: la capacità dei sistemi di comprendere il mondo e quella di agire autonomamente su di esso. Mentre lo sviluppo industriale tende a fonderle in modelli sempre più agentici, viene suggerito invece di orientare la ricerca verso sistemi avanzati sul piano inferenziale ma privi di capacità di intervento, destinati a supportare la conoscenza umana – non sostituirla! – e a svolgere funzioni di verifica e valutazione del rischio rispetto ad altri sistemi più autonomi. Chi fa ricerca, sviluppo e chi governa le politiche sarebbero così chiamati a investire deliberatamente in traiettorie tecnologiche più sicure, capaci di sfruttare le capacità inferenziali dell’intelligenza artificiale riducendo al contempo i rischi associati ai sistemi agentici e alla possibile perdita di controllo umano sui processi decisionali automatizzati.

Questa visione rende evidente l’importanza del concetto di responsabilità. I sistemi di intelligenza artificiale distribuiscono le decisioni lungo catene tecniche e organizzative estremamente complesse: dataset, infrastrutture computazionali, modelli, piattaforme e utenti finali contribuiscono tutti al funzionamento dei sistemi. Questa dispersione rischia di trasformarsi in una zona grigia senza tetto né legge. Ripoliticizzare l’innovazione significa quindi anche individuare chi debba rispondere delle conseguenze prodotte dai sistemi algoritmici e quali strumenti normativi e istituzionali siano necessari per rendere effettivo tale principio. E ripartire quindi dal ruolo dello Stato.

Le politiche pubbliche devono garantire che gli «interstizi» possano esprimere tutta la loro vitalità e ricchezza plurale: si tratta di spazi in cui diventano visibili i processi attraverso i quali categorie come razza, genere o appartenenza sociale vengono costruite e negoziate. L’intelligenza umana è in grado di leggere questi spazi di ambiguità e conflitto; i sistemi algoritmici, invece, tendono a operare su categorie rigide e semplificate che riflettono spesso i pregiudizi presenti nei dati e nei modelli che li alimentano. Proprio per questo motivo, una governance democratica dell’intelligenza artificiale deve essere capace di preservare e valorizzare quella pluralità e interpretazione che nessun sistema automatico può sostituire.

L’Appuntamento

Flavia Barca (Giovanni Leghississa) presenta I pregiudizi dell’AI. Disuguaglianze e potere nell’era dell’algoritmo (Donzelli, pagg. 176, euro 16) il 10 maggio (ore 11.30) alla Libreria Feltrinelli di Udine all’interno della rassegna Vicino/lontano