Italian Tech

Il documento

I nuovi principi che guidano OpenAI, smontati punto per punto

I nuovi principi che guidano OpenAI, smontati punto per punto

L’azienda che ha creato ChatGPT aggiorna le linee guida destinate a orientare lo sviluppo dell’intelligenza artificiale verso benefici diffusi e un accesso più ampio. Dietro i principi dichiarati emergono però contraddizioni legate alla rapida ascesa di una tecnologia con un impatto profondo su società e democrazie

5 minuti di lettura

OpenAI ha aggiornato i principi che guidano il proprio operato, chiarendo i capisaldi della sua missione: sviluppare un’intelligenza artificiale generale sicura e orientata al beneficio dell’umanità. Con il termine AGI, l’azienda definisce “sistemi altamente autonomi in grado di superare le prestazioni umane nella maggior parte delle attività economicamente più rilevanti”.

I nuovi principi sono stati redatti direttamente da Sam Altman, amministratore delegato e figura centrale nella definizione della visione strategica dell’azienda. Negli ultimi anni, sotto la sua guida, OpenAI è passata da laboratorio di ricerca no-profit a grande azienda tecnologica con obiettivi commerciali. Tra le ipotesi sul tavolo figura anche una futura quotazione in borsa, in un contesto in cui le valutazioni circolate - pari a circa 850 miliardi di dollari - indicano dimensioni già molto elevate.

Le nuove linee guida di OpenAI si configurano come un aggiornamento del Charter pubblicato nel 2018, lo statuto che finora ha orientato l’azienda nel perseguire l’obiettivo dell’AGI mantenendo al centro l’interesse dell’umanità.

Il nodo della democratizzazione

I nuovi principi chiave sono cinque: democratizzazione, autonomia, prosperità condivisa, resilienza e capacità di adattamento.

A una prima lettura appaiono nobili e ambiziosi, ma un’analisi più attenta ne mette in luce alcune contraddizioni.

Nel documento si afferma, ad esempio, la volontà di “resistere alla concentrazione del potere nelle mani di pochi” e di garantire che le decisioni sull’AI siano prese secondo “processi democratici”. Sappiamo, tuttavia, che lo sviluppo di questi sistemi resta legato a infrastrutture e capitali che, nei fatti, sono accessibili a un numero ristretto di attori.

“Oltre a garantire a tutti l'accesso all'IA - scrive Altman - dobbiamo assicurarci che le decisioni fondamentali riguardanti l'IA vengano prese attraverso processi democratici e nel rispetto di principi egualitari, e non siano lasciate esclusivamente nelle mani dei laboratori di ricerca sull'IA”.

Ma quali istituzioni decidono? I governi nazionali hanno priorità divergenti, mentre gli organismi sovranazionali sono lenti nel mettere in pratica contromisure opportune.

In pratica, molte scelte fondamentali - dai limiti dei modelli alle policy d’uso - restano nelle mani delle aziende che li sviluppano, soprattutto dove manca una regolamentazione uniforme e adeguata (come negli Stati Uniti).

La democratizzazione dell’uso, dunque, non coincide con quella della governance.

Autonomia promessa, disuguaglianze reali

Riguardo il secondo principio, l’autonomia, Altman crede che “l’IA darà a tutti i mezzi di perseguire i propri scopi e sogni”, ma non sembra tenere in conto che gli effetti dell’intelligenza artificiale non potranno essere uniformi.

Una tecnologia di questa portata, i cui modelli più avanzati sono spesso disponibili a costi di diverse centinaia di dollari al mese, tende a favorire chi dispone sia delle risorse economiche per sostenerli sia delle competenze necessarie per integrarli efficacemente. Il rischio è un ampliamento delle disuguaglianze.

Inoltre, l’autonomia promessa agli utenti entra in conflitto con la necessità di limitare usi dannosi. Il testo riconosce questa tensione, ma non chiarisce come bilanciare libertà e controllo senza arbitrarietà.

Altman ammette che OpenAI ha la responsabilità di “sviluppare e distribuire l'IA in modo da ridurre al minimo i danni. Ciò include naturalmente la prevenzione di danni catastrofici, ma anche la riduzione dei danni locali e il contrasto dei potenziali effetti corrosivi sulla società”.

Ma tutto questo è complesso da attuare: ciò che è dannoso varia per contesto culturale e politico. Ne deriva una governance inevitabilmente centralizzata, che può ridurre proprio quella autonomia dichiarata.

Prosperità davvero per tutti?

Sul terzo principio, la prosperità condivisa, Sam Altman sostiene che “mettendo sistemi di IA facili da usare e con grande capacità di calcolo nelle mani di tutti, le persone troveranno nuovi modi per generare valore e migliorare significativamente la qualità della vita”. Aggiunge però che, per rendere questa prosperità davvero diffusa, “i governi potrebbero dover considerare nuovi modelli economici” e che sarà necessario costruire “enormi quantità di infrastrutture”.

Però la distribuzione dei benefici non è automatica. Le trasformazioni tecnologiche del passato hanno spesso prodotto crescita, ma con effetti diseguali. I “nuovi modelli economici” evocati da Altman implicano scelte politiche complesse, su cui oggi non esiste consenso. Allo stesso tempo, la necessità di investimenti massicci in infrastrutture rafforza il ruolo di pochi grandi attori industriali, almeno nel breve periodo. La promessa di prosperità diffusa resta quindi legata a condizioni esterne che l’azienda non controlla direttamente.

Quando abbiamo parlato dei rischi legati all’IA con Yoshua Bengio, uno dei padrini dell'intelligenza artificiale moderna, ci ha spiegato che “se guardiamo al quadro globale, la produttività aumenterà: in media, saremo tutti più ricchi. Ma no, non sarà una ricchezza distribuita equamente. Se l’innovazione e i guadagni si concentrano in pochi paesi e in una ristretta élite di aziende e individui, allora ciò che vedremo sarà un’esplosione della disuguaglianza economica, ancora più estrema di quella già esistente oggi”.

I rischi di un’AI sempre più potente

Parlando del quarto principio di OpenAI, la resilienza, Altman riconosce che “l’IA introdurrà nuovi rischi” e che sarà necessario lavorare con governi e altre organizzazioni per affrontarli. Porta esempi concreti: modelli sempre più avanzati potrebbero “rendere più facile la creazione di nuovi patogeni”, oppure aumentare le capacità offensive in ambito informatico, rendendo necessario usare gli stessi sistemi per proteggere infrastrutture e software.

La risposta proposta è quella di un “rilascio iterativo”, cioè un’apertura progressiva di tecnologie sempre più potenti per consentire alla società di adattarsi nel tempo. Anche in questo caso, però, c’è un rischio evidente: ogni nuova iterazione introduce capacità che possono essere sfruttate prima che le contromisure siano mature. Un esempio concreto è Claude Mythos, il modello di IA più avanzato di Anthropic - società che compete con OpenAI nella corsa all’IA - che secondo i suoi creatori è così potente da individuare vulnerabilità nei software non ancora scoperte. Per questo motivo è stato messo a disposizione di un ristretto numero di grandi aziende prima del suo rilascio globale.

L’IA corre veloce, la società meno

Infine, riguardo il principio di adattamento, Altman afferma che l’unico modo per affrontare un futuro imprevedibile è “aggiornare le nostre posizioni man mano che impariamo di più”. Ammette anche che OpenAI è ormai “una forza molto più grande nel mondo rispetto a pochi anni fa” e promette maggiore trasparenza sui cambiamenti di rotta. Un passaggio significativo riguarda la possibilità di “dover sacrificare parte dell’autonomia per aumentare la resilienza” in determinate fasi.

Questa flessibilità è comprensibile, ma apre a un margine discrezionale ampio. In assenza di regole condivise, le decisioni su quando e come modificare questi principi restano nelle mani dell’azienda. Il rischio è che l’adattamento risponda più a vincoli operativi e competitivi che a un confronto pubblico strutturato.

Le radici di una visione ottimistica

In passato Sam Altman aveva affidato la propria visione a due testi dal tono fortemente ottimistico, pubblicati al di fuori dei canali ufficiali di OpenAI. In questi interventi emergeva una fiducia marcata nelle capacità dell’intelligenza artificiale e nelle opportunità offerte a chi la adotta.

Nel primo, The Intelligence Age, diffuso a settembre 2024, Altman immaginava un futuro in cui, grazie all’AI, “saremo capaci di fare cose che ai nostri nonni sarebbero sembrate magie”. Il documento alterna previsioni e promesse, tutte senza alcun fondamento scientifico: “La vita di ciascuno potrà essere migliore di quanto lo sia oggi per chiunque”; “Sebbene ciò avverrà in modo graduale, traguardi straordinari – dalla soluzione della crisi climatica alla creazione di una colonia nello spazio, fino alla scoperta completa delle leggi della fisica – finiranno per diventare la norma”.

Tra le righe, il CEO di OpenAI indicava anche le condizioni necessarie per arrivare a questi risultati: “Se vogliamo mettere l’intelligenza artificiale nelle mani del maggior numero possibile di persone, dobbiamo ridurre il costo della capacità di calcolo e renderla abbondante, il che richiede grandi quantità di energia e di chip. In assenza di infrastrutture sufficienti, l’AI rischia di diventare una risorsa scarsa, oggetto di conflitti e destinata soprattutto ai più ricchi”.

Questa impostazione anticipava - e giustificava - il progetto Stargate, un piano di investimento da 500 miliardi di dollari per la costruzione di grandi data center negli Stati Uniti, che Altman avrebbe presentato alla Casa Bianca con il sostegno di Donald Trump e il supporto economico di figure come Larry Ellison e Masayoshi Son. Per arrivare alla prosperità, gli Stati Uniti avrebbero dovuto accettare la costruzione di nuovi agglomerati di supercomputer, con un forte fabbisogno energetico e un impatto rilevante sul consumo di acqua nelle comunità locali in cui sarebbero stati realizzati.

La narrazione della “singolarità gentile”

L’altro scritto del CEO di OpenAI è più recente. Intitolato The Gentle Singularity, è stato pubblicato a giugno 2025 e si apre con la solita retorica: “Abbiamo superato il punto di non ritorno; il decollo è iniziato. L'umanità è vicina a costruire una superintelligenza digitale, e almeno finora è molto meno strana di quanto ci si aspetterebbe”.

Nel testo si insiste sull’idea che la superintelligenza sarà meno destabilizzante di quanto si immagini, e che i benefici - dalla crescita economica all’accelerazione della ricerca scientifica - si distribuiranno progressivamente nella società. L’immagine proposta è quella di una trasformazione “gentile”, appunto, in cui cambiamenti profondi avvengono senza traumi.

Resta però una distanza tra questa narrazione e le incognite già emerse nel dibattito pubblico.

La velocità dello sviluppo tecnologico, la concentrazione delle risorse necessarie e gli effetti sul lavoro, sul rapporto distopico tra esseri umani e macchine e sulla geopolitica sono fattori che difficilmente si lasciano ricondurre a una transizione lineare.

Anche qui, come nei testi precedenti, l’ottimismo di fondo convive con interrogativi che il documento riconosce solo in parte, lasciando aperto il nodo su come questa “singolarità gentile” possa tradursi in un equilibrio concreto.