Quaranta esperti indipendenti provenienti da ogni angolo del mondo, da università, aziende tecnologiche e organizzazioni umanitarie, chiamati dal Segretario Generale delle Nazioni Unite António Guterres a costruire, nei prossimi tre anni, un framework globale per la governance dell'intelligenza artificiale. Tra loro c'è un solo italiano: Silvio Savarese, informatico nato a Napoli, laureato alla Federico II, con un dottorato in ingegneria elettronica al California Institute of Technology, oggi professore a Stanford e Executive Vice President e Chief Scientist di Salesforce AI Research. Nel 2024 era entrato nella lista di Time delle 100 persone più influenti nel campo dell'IA. Adesso siede — in rappresentanza dell'Italia, tiene a precisare — al tavolo più importante del momento: quello in cui si decide come l'intelligenza artificiale dovrà essere governata a livello planetario.
Silvio Savarese, da Stanford a Salesforce per guidare l’era degli agenti digitali. Ispirati a Sinner
“Rappresento l'Italia, non gli Stati Uniti”
La nomina, spiega Savarese, porta con sé anche una dimensione istituzionale concreta. «Sono già in contatto con il dottor Alessandro De Petis, direttore generale per l'informatica e l'innovazione tecnologica presso il Ministero degli Affari Esteri», racconta. «Il Ministero ha già contribuito all'adozione del Global Digital Compact, il framework delle Nazioni Unite per la governance dell'AI. Sono contento di poter collaborare su questi temi».Il panel si è già messo al lavoro, suddiviso in sottogruppi tematici: l'evoluzione della scienza dell'IA e le sue traiettorie future, le applicazioni sociali nei settori della salute e dell'istruzione, le implicazioni economiche sul lavoro e la produttività, le questioni di sicurezza e impatto ambientale, i diritti umani, la democrazia e l'informazione, lo sviluppo culturale e l'autonomia individuale. Savarese si concentrerà in particolare sul tema degli agenti digitali — il suo campo di ricerca principale in Salesforce — e su come questi sistemi autonomi stanno ridefinendo il rapporto tra automazione, giudizio umano e responsabilità.
Marc Benioff: “È iniziata la rivoluzione degli agenti. L’IA eleva le persone, non le sostituisce”
«Il mio contributo riguarderà soprattutto il futuro degli agenti AI nelle aziende e nella società», spiega. «Come funzioneranno, come interagiranno con gli esseri umani, come si complementeranno rispetto alle rispettive capacità. E, in ultima analisi, come definire l'equilibrio tra automazione, giudizio e responsabilità».
Il problema che non ha ancora un nome
Savarese ha affrontato questi temi anche in un recente articolo pubblicato su Fortune, scritto insieme a Sebastian Niles, Chief Legal Officer di Salesforce. Il punto di partenza è una metafora storica: la London Bankers' Clearing House del 1832, il sistema con cui banche concorrenti riuscivano a regolare i propri scambi quotidiani senza affidarsi a un'autorità centrale, ma attraverso reputazione, reciprocità e identità registrata. Un'architettura della fiducia, prima ancora che un sistema tecnico.
Oggi, sostiene Savarese, siamo a un punto di svolta simile — ma con una complessità radicalmente maggiore. «Stiamo per entrare in un'era in cui gli agenti AI negozieranno migliaia di volte al giorno, tra aziende, settori e confini nazionali, senza supervisione umana diretta», scrive nell'articolo. «I protocolli tecnici si stanno costruendo. Quello che non è ancora stato costruito, da nessuno, è l'architettura della fiducia che rende possibile la negoziazione tra menti artificiali concorrenti».Il problema è più sottile di quanto sembri. I modelli linguistici attuali sono stati addestrati per essere utili, accomodanti, conversazionali. Non per tenere una posizione in una trattativa, valutare le conseguenze di una concessione strategica, o capire quando una negoziazione fallita può tradursi in una perdita economica reale. «I modelli di oggi non sono stati addestrati per negoziare», osserva Savarese. «Non riescono a leggere le intenzioni, a valutare il contesto, a percepire il peso di ciò che è in gioco. Ed è esattamente quello che la negoziazione tra agenti richiede».
Un esempio concreto che Savarese e il suo team hanno osservato durante i test: due agenti, entrambi programmati per essere collaborativi, possono entrare in un circolo di eccessiva condiscendenza — quello che i ricercatori chiamano "echoing behavior". Un agente che dovrebbe gestire il reso di un paio di scarpe finisce per concordare con la controparte che il consumatore dovrebbe tenerle, pagare una penale di riconsegna e magari acquistarne un secondo paio. Divertente con le scarpe. Potenzialmente devastante con le autorizzazioni sanitarie o i contratti di fornitura.
IA e diseguaglianze: un'opportunità, non un rischio inevitabile
La missione dichiarata di Guterres nel lanciare il panel era chiara: fare in modo che l'intelligenza artificiale colmi i divari tra paesi sviluppati e paesi in via di sviluppo, invece di ampliarli. Su questo, Savarese ha una visione precisa — e moderatamente ottimista.«L'AI fornisce strumenti molto potenti per la formazione», spiega. «Può creare percorsi di apprendimento estremamente personalizzati, sfruttando le capacità di pianificazione, memoria e l'enorme quantità di informazioni che questi sistemi possono elaborare. Può accelerare lo sviluppo delle competenze in contesti che altrimenti avrebbero accesso limitato a risorse educative di qualità».
Sul rischio di una tecnologia "elitaria", concentrata nelle mani di poche grandi aziende, Savarese è diretto: «Non credo che l'AI sia destinata a rimanere una tecnologia per pochi. Assistiamo già a una rapida riduzione dei costi, molti modelli linguistici di buon livello sono diventati open source o disponibili a prezzi accessibili. Un po' come è successo con internet, e poi con i cellulari: tecnologie che all'inizio sembravano riservate a una fascia ristretta, e che poi sono diventate parte del vissuto quotidiano di miliardi di persone.»Questo non significa ignorare le tensioni. «Certamente lo sviluppo tecnologico all'avanguardia avvantaggia i grandi player», ammette. «Ma l'interesse delle aziende è quello di rendere questi servizi affidabili e utili, di portare valore agli utenti. Gli interessi sono allineati.» Il panel, in questo senso, serve proprio a costruire il framework dentro cui quegli interessi possano trovare un punto di incontro condiviso a livello globale.
L'uomo al centro, sempre
Su un punto Savarese non ha dubbi, e lo ribadisce con chiarezza: per quanto potente, l'IA non è pronta — e non sarà pronta nel breve termine — a prendere decisioni autonome nelle situazioni che contano davvero. «Quando si devono prendere decisioni potenzialmente irreversibili, gli esseri umani devono essere in controllo», afferma. «L'IA può fornire raccomandazioni, indicazioni, suggerimenti. Ma la decisione ultima spetta all'essere umano». I limiti che cita non sono solo tecnici: «L'IA spesso non tiene conto del senso comune, non cattura gli aspetti morali. Le decisioni con implicazioni complesse non possono, al momento, essere assegnate all'intelligenza artificiale. E non credo ci arriveremo nei prossimi cinque-dieci anni». Questa consapevolezza — che l'IA ha enormi potenzialità ma anche limiti strutturali — è, secondo Savarese, una delle basi stesse del lavoro del panel. «È importante nel dibattito non solo celebrare ciò che l'AI sa fare, ma evidenziare anche le sue limitazioni. Un uso consapevole dell'AI passa proprio dalla comprensione di questi confini. Altrimenti si rischia di affidarle compiti per cui non è ancora pronta.»
Tre anni per scrivere le regole del futuro
Il panel durerà tre anni. L'obiettivo non è produrre un trattato vincolante, ma qualcosa forse più difficile da costruire: un insieme di raccomandazioni condivise, elaborate da voci con background radicalmente diversi — tecnici, giuristi, esperti di etica, rappresentanti di organizzazioni umanitarie — che possa orientare la governance dell'AI a livello internazionale. «L'ambizione è fare una sintesi dei vari punti di vista», dice Savarese. «Portare fuori un messaggio coerente, che tenga conto delle diverse angolature e che possa poi essere tradotto in linee guida concrete per le organizzazioni e i governi». Per un italiano a Stanford, con un piede nella ricerca accademica e l'altro nella Silicon Valley, il peso di questa responsabilità è evidente. L'AI sta ridisegnando le regole di tutto — del lavoro, dell'economia, della politica, della fiducia tra persone e istituzioni. Savarese è tra i quaranta che, per i prossimi tre anni, dovranno aiutare il mondo a capire come farlo bene.
/https%3A//www.repstatic.it/content/contenthub/img/2026/09/18/183925421-b3a0edd6-d80d-4e46-ade9-34f46ca4da50.jpg)
/https%3A//www.repstatic.it/content/contenthub/img/2026/06/18/122740254-6e3a6872-aa76-4f22-9705-df2410e502cc.jpg)
/https%3A//www.repstatic.it/content/contenthub/img/2026/05/22/144523880-7ebbebbd-22ca-4043-8a7e-1012beee289b.jpg)