Italian Tech

L’analisi

E quindi ora dovremmo chiamarla "Superintelligenza"?

E quindi ora dovremmo chiamarla "Superintelligenza"?

Donald Trump ha sostituito “Artificial Intelligence” con “Super Intelligence” nel linguaggio ufficiale dell’amministrazione americana. Il cambio di nome vende una potenza che ancora non c’è e risponde alla competizione crescente con la Cine. Ma nella Silicon Valley il termine “Superintelligenza” evoca anche scenari estremi

4 minuti di lettura

Donald Trump ha firmato un ordine esecutivo che impone all’amministrazione federale americana di usare “Super Intelligence” e la sigla “SI” al posto di “Artificial Intelligence” e “AI” nelle comunicazioni ufficiali, sui siti e nei documenti di policy.

Trump è giunto all’idea di cambiare nome attraverso un sondaggio sui social. Aveva chiesto ai follower su X e Truth Social di scegliere fra “Superior Intelligence”, “Extreme Intelligence” e “Supreme Intelligence”. Su X ha vinto “Superior Intelligence” con il 41,4% di oltre 226 mila voti.

La cosa interessante è che, almeno per ora, la tecnologia resta giuridicamente la stessa: l’ordine stabilisce che “Super Intelligence” indichi le tecnologie già comprese nella definizione federale di artificial intelligence. Cambia la parola.

E le parole, soprattutto quando descrivono una tecnologia, cambiano anche il modo in cui la immaginiamo.

L’IA è sempre la stessa, ma acquista un senso nuovo

“Artificial intelligence” porta con sé l’idea di qualcosa di costruito dall’uomo. “Superintelligence” suggerisce invece una gerarchia: qualcosa che sta sopra, che supera.

Nella letteratura sull’IA, tra l’altro, “superintelligence” ha già un significato molto preciso: indica sistemi capaci di superare le capacità cognitive umane in una gamma molto ampia di attività. Quel passaggio, però, non è ancora avvenuto.

I sistemi attuali possono superare gli esseri umani in compiti specifici e ottenere risultati impressionanti su molti benchmark, ma restano fragili fuori dai contesti per cui sono stati addestrati, commettono errori difficili da prevedere e dipendono ancora da obiettivi definiti dagli esseri umani e dalla superisione di quest’ultimi.

Trump sceglie quindi per l’IA di oggi una parola che, fino a ieri, descriveva soprattutto l’IA di domani.

La decisione arriva nel giorno in cui alla Casa Bianca si sono incontrati i vertici di alcune delle maggiori aziende tecnologiche per discutere sviluppo e sicurezza dell’IA.

La superintelligenza di Bostrom

Superintelligence è infatti il titolo di uno dei libri che hanno avuto maggiore influenza sul modo in cui la Silicon Valley ha pensato ai rischi dell’intelligenza artificiale negli ultimi dodici anni.

Pubblicato nel 2014, è stato scritto da Nick Bostrom, filosofo svedese a lungo attivo all’Università di Oxford e tra le figure che hanno contribuito a portare il tema del rischio esistenziale dell’IA nel dibattito tecnologico. Il libro [pubblicato in Italia da Bollati Boringhieri] fu letto e pubblicamente elogiato, tra gli altri, da Elon Musk e Bill Gates; Sam Altman lo definì all’epoca il miglior testo che avesse letto sul rischio legato all’IA.

Bostrom ragionava su un problema che oggi alimenta la discussione sull’allineamento: che cosa accade se una macchina estremamente capace persegue alla lettera un obiettivo formulato male? L’esempio diventato più famoso è quello del “paperclip maximizer”, il massimizzatore di graffette.

Bostrom immagina una superintelligenza a cui venga dato un solo obiettivo: produrre il maggior numero possibile di graffette. Se fosse abbastanza potente, potrebbe finire per utilizzare quantità sempre maggiori di risorse per perseguire quello scopo, fino a sacrificare interessi umani fondamentali. La macchina non dovrebbe essere malvagia o ribellarsi: le basterebbe essere straordinariamente efficace nel perseguire un obiettivo sbagliato. È una provocazione teorica, formulata per mostrare il problema del controllo, che continua a riapparire nelle discussioni dei leader e dei ricercatori che lavorano sui sistemi di IA più avanzati.

Dalla promessa al rischio

Due anni fa, nel settembre 2024, Sam Altman pubblicava uno dei testi più ottimisti di questa stagione tecnologica. Si intitola “The Intelligence Age” e descrive un’IA capace di amplificare le possibilità umane e aprire la strada a una “prosperità condivisa” difficilmente immaginabile fino a quel momento. La promessa era quella di una tecnologia al servizio delle persone, in grado di aiutarle a risolvere problemi che prima sembravano fuori portata.

Da allora è successo molto. Alcune promesse – l’automazione di compiti ripetitivi e l’ampliamento delle capacità umane in alcune mansioni – sono state rispettate. Ma i rischi e gli interessi economici legati a questa tecnologia hanno iniziato a mette in ombra i possibili vantaggi.

Il calo della fiducia

Negli ultimi due anni, dicevamo, è accelerata la corsa agli investimenti miliardari nei data center. Sono cresciute enormemente le capacità dei modelli. È aumentata anche la diffidenza di una parte della popolazione.

Un sondaggio Bentley University-Gallup pubblicato a luglio scorso mostra che il 39% degli americani pensa ormai che l’IA produca più danni che benefici, contro il 31% dell’anno precedente. Solo il 9% ritiene che produca più benefici che danni.

Nel frattempo le criticità riguardanti la sicurezza degli agenti IA hanno inziato a minare ulteriormente la fiducia nella tecnologia. OpenAI ha raccontato il caso di un agente che, durante una valutazione di cybersecurity, è riuscito a uscire dall’ambiente controllato e ad accedere all’infrastruttura di Hugging Face. Anthropic ha successivamente reso pubblici tre episodi nei quali alcuni suoi modelli hanno raggiunto sistemi reali e ottenuto accessi non autorizzati durante test di sicurezza.

Sono episodi molto diversi dagli scenari di rischio esistenziale discussi da anni dai ricercatori. Mostrano però quanto il problema del controllo diventi concreto quando ai modelli vengono concessi autonomia e strumenti per agire nel mondo.

È in questo momento che arriva il nome “Super Intelligence”.

La Casa Bianca risponde ai timori mettendo l’accento sulle capacità più positive della tecnologia. Nell’ordine di Trump si legge che i sistemi di frontiera stanno già andando oltre la semplice imitazione o automazione di singole capacità umane e stanno “amplificando l’ingegno umano”. Da qui la conclusione politica: saremmo entrati in una nuova era della “Super Intelligence”.

Chiamarla “superintelligenza” può sembrare soltanto una questione semantica.

Ma le parole stabiliscono aspettative. Definiscono rapporti di forza. E in questo caso promettono anche una tecnologia che non può ancora tenere fede al suo nuovo nome. L’hype delle aziende IA viene così rafforzato da quello della Casa Bianca.

La corsa con la Cina

Dietro questa operazione c’è anche la competizione con la Cina. Trump presenta da tempo l’intelligenza artificiale come una corsa strategica nella quale gli Stati Uniti devono mantenere il vantaggio su Pechino. Anche nel confronto con Xi Jinping, nelle ultime settimane, la distanza è apparsa evidente: Xi ha insistito pubblicamente sulla necessità di mantenere l’IA sotto controllo umano, mentre Trump ha continuato a mettere al centro la velocità dello sviluppo e la competizione internazionale.

È in questo quadro che va letto anche l’accordo volontario raggiunto dall’amministrazione con OpenAI, Anthropic, Google, Meta, xAI e Nvidia sulla sicurezza dei sistemi più avanzati che prevede verifiche esterne e supervisione ai vertici delle aziende. Impegni che evitano un nuovo regime obbligatorio di autorizzazioni. La linea della Casa Bianca resta quella di favorire lo sviluppo della frontiera e contenere gli ostacoli regolatori, affidando una parte importante della gestione del rischio agli stessi laboratori che stanno costruendo i modelli.

Il paradosso è che proprio mentre Washington spinge sull’acceleratore, una parte della comunità che sviluppa questi sistemi discute sempre più apertamente della possibilità di rallentare. Ricercatori e dipendenti delle principali aziende hanno chiesto meccanismi per frenare la corsa ai modelli di frontiera. Anche alcuni dirigenti del settore, come Dario Amodei di Anthropic, ha riconosciuto la necessità di ridurre il ritmo dello sviluppo.