Sam Altman: “Il mondo dovrebbe accettare alcune cose brutte” in cambio dei benefici dell’IA

Sam Altman ha appena messo un prezzo ai benefici dell’intelligenza artificiale.

Secondo l’amministratore delegato di OpenAI, l’azienda che ha creato ChatGpt, una parte di quel prezzo consiste nell’accettare che accadano anche “alcune cose brutte”.

Intervistato da Decoded, la newsletter tecnologica di Politico, Altman ha spiegato così una delle differenze che separano OpenAI da Anthropic, il laboratorio rivale guidato da Dario Amodei: “Crediamo che il mondo dovrebbe accettare che accadano alcune cose brutte in cambio dei benefici di questa tecnologia e della possibilità per le persone di avere capacità di scelta”.

Il prezzo dell’intelligenza artificiale

Nel compromesso che ha in mente Altman rientrano danni concreti come truffe, utilizzi impropri e attacchi informatici agevolati dall’IA.

Ma secondo il CEO di OpenAI le applicazioni positive prodotte da milioni di persone saranno enormemente superiori a quelle dannose. I rischi catastrofici, compresa una perdita di controllo sull’IA, restano fuori dalla sua analisi.

La frase consegnata a Politico è destinata a restare attaccata ad Altman perché arriva in un momento particolarmente delicato per i laboratori IA. Da settimane alcuni dei principali ricercatori e dirigenti dell’industria stanno discutendo pubblicamente della possibilità di rallentare lo sviluppo dei sistemi di frontiera, cioè i modelli più avanzati e costosi, quelli che definiscono il limite delle capacità disponibili.

Altman stesso, appena tre settimane fa, aveva appoggiato la proposta di Amodei di “rallentare la frontiera” - vale a dire ridurre il ritmo con cui aumentano le capacità dei modelli e concedere maggiore accesso a valutatori indipendenti - condividendo il timore che sistemi agentici molto più potenti potrebbero diventare difficili da controllare.

L’intervista a Politico, invece, chiarisce la visione di Altman. OpenAI continua a preferire una regolamentazione relativamente leggera e un’IA ampiamente accessibile, considerano inaccettabile un sistema in cui pochi laboratori decidano chi possa utilizzare una tecnologia tanto potente e come distribuirne i benefici.

Le montagne russe di Altman

Il rapporto pubblico di Altman con i rischi dell’intelligenza artificiale ha avuto negli ultimi tre anni l’andamento di una montagna russa.

A maggio del 2023, durante la sua prima audizione davanti al Senato degli Stati Uniti, ChatGpt esisteva da meno di sei mesi e Washington cercava ancora di capire i rischi legati all’IA generativa. Altman scelse allora un tono molto prudente. Disse ai senatori che la sua paura maggiore era che l’intelligenza artificiale potesse provocare “danni significativi al mondo” e aggiunse un avvertimento inquietante: “Se questa tecnologia va male, può andare molto male”. In quell’occasione chiese regole, test di sicurezza e la possibilità di creare un’autorità federale capace di concedere licenze ai sistemi più potenti.

Un anno e mezzo dopo il registro era già cambiato.

Nel settembre 2024 Altman ha pubblicato The Intelligence Age, un saggio che descrive un futuro dominato da “una prosperità enorme” resa possibile dall’IA e dall’energia abbondante. Immaginava progressi capaci di contribuire alla soluzione della crisi climatica, alla colonizzazione dello spazio e perfino alla scoperta di nuova fisica. Ammetteva conseguenze negative e forti cambiamenti nel mercato del lavoro, ma il futuro che raccontava rimaneva straordinariamente ottimista e includeva una società più ricca e individui più capaci.

Nel 2026 le ombre sono tornate nella sua comunicazione, insieme a un’idea diversa del rischio. Altman continua a credere che l’IA produrrà grandi, ma parla ormai apertamente di danni inevitabili e della necessità di stabilire quali siano tollerabili. La sua posizione assomiglia sempre più a un calcolo politico e tecnologico: rallentare quando una capacità rischia di sfuggire al controllo, mantenendo però la tecnologia abbastanza aperta da permettere alla società di sfruttarla.

Un altro addio dalla sicurezza di OpenAI

Quasi nelle stesse ore in cui Altman parlava con Politico, David Robinson - che per tre anni e mezzo ha lavorato alla sicurezza dei modelli sviluppati da OpenAI - si è dimesso accusando l’azienda di avere una cultura profondamente inadeguata alla tecnologia che sta costruendo.

Robinson ha scritto su The Atlantic che OpenAI è cresciuta attraverso una strategia fondata sul tentativo e l’errore: si rilasciano progressivamente sistemi reali, si osservano i problemi e si rafforzano le protezioni.

Secondo Robinson, sistemi più autonomi rendono quel metodo troppo pericoloso. “Il tempo in cui si può provare e sbagliare è finito”, ha scritto dopo aver ricordato recenti episodi nei quali agenti di IA hanno superato o aggirato alcune protezioni predisposte dai loro sviluppatori.

La sua proposta guarda fuori dalla Silicon Valley. I laboratori di frontiera, sostiene, dovrebbero studiare come lavorano centrali nucleari e grandi aeroporti, settori costruiti intorno a controlli e procedure pensate affinché l’errore di una singola persona non provochi