Italian Tech

Amodei chiede di rallentare lo sviluppo delle IA, ma Anthropic corre a doppia velocità

Amodei chiede di rallentare lo sviluppo delle IA, ma Anthropic corre a doppia velocità

Uno studio indipendente rivela che i modelli di Anthropic migliorano più in fretta rispetto al passato recente, nel prospetto informativo che accompagna l’Ipo, l’azienda guidata da Dario Amodei indica l’accelerazione eccessiva tra i rischi legati allo sviluppo delle IA

5 minuti di lettura

Anthropic sta sviluppando modelli di intelligenza artificiale sempre più capaci a un ritmo quasi doppio rispetto al passato, nonostante il suo amministratore delegato Dario Amodei abbia chiesto all’industria di rallentare il progresso tecnologico per consentire ai sistemi di sicurezza di tenere il passo.

A rilevarlo è un’indagine indipendente pubblicata il 5 novembre 2026 dal Model Evaluation and Threat Research (METR), organizzazione statunitense specializzata nella valutazione dei sistemi IA avanzati.

Stando a quanto ricostruito dai ricercatori, dall’ottobre 2025 le capacità dei modelli di Anthropic, misurate attraverso una serie di benchmark, sono migliorate a una velocità 1,9 volte superiore rispetto al periodo precedente. L’accelerazione sarebbe dovuta prevalentemente all’impiego dell’intelligenza artificiale nelle stesse attività di ricerca e sviluppo.

La distanza tra gli appelli di Dario Amodei a rallentare lo sviluppo dell’IA e il ritmo con cui Anthropic porta avanti i propri modelli non è una novità. Il tema è tornato d’attualità all’inizio di novembre, quando l’azienda ha presentato alla SEC, l’autorità statunitense che vigila sui mercati finanziari, una versione aggiornata del modulo S-1 per la quotazione in borsa. Tra i rischi segnalati, Anthropic ha incluso anche la possibilità che l’uso delle intelligenze artificiali nella ricerca acceleri ulteriormente lo sviluppo di sistemi di IA sempre più avanzati.

Cosa dice il METR

Dal 12 agosto al 29 ottobre 2026 i ricercatori di METR hanno avuto accesso a informazioni normalmente riservate di Anthropic, tra cui i risultati dei test sui modelli non ancora pubblicati, i dati sull’addestramento, le misurazioni dell’efficienza degli algoritmi, l’impiego della capacità di calcolo e documenti relativi alla produttività.

La valutazione, realizzata nell’arco di undici settimane con l'equivalente di 2,5 ricercatori a tempo pieno, ha cercato di rispondere a tre domande, vale a dire: quanto sta accelerando il miglioramento dei modelli di Anthropic, quale parte di questa accelerazione è riconducibile all'impiego dell'IA nella ricerca e quali fattori potrebbero limitarne ulteriormente la crescita.

Per misurare i progressi, METR ha utilizzato anche l'Anthropic Epoch Capabilities Index (AECI), un indicatore che aggrega i risultati ottenuti dai modelli in diversi benchmark.

Nel documento redatto dal METR si legge di un intervallo di confidenza del 95% compreso tra 1,5 e 2,8 volte. Frase un po’ ingarbugliata che, in altre parole, corrisponde al fatto che l’accelerazione reale è compresa tra il +50% e +180% rispetto al ritmo precedente, con una stima centrale pari al +90%.

METR non sta sostenendo che i modelli IA di Anthropic siano 1,9 volte più “intelligenti” ma che migliorano con una certa celerità e occorre evidenziare che si tratta di una misurazione relativa al ritmo con cui migliorano le prestazioni dei modelli in specifiche prove tecniche costituite da compiti ben definiti e verificabili.

È l’IA ad accelerare la ricerca

L'elemento più rilevante dell'indagine riguarda le cause dell'accelerazione. METR afferma di aver escluso che il fenomeno dipenda semplicemente da una crescita più rapida della capacità di calcolo utilizzata nell'addestramento.

L'organizzazione ha esaminato anche l'aumento del personale, le innovazioni algoritmiche, la qualità dei dati e l'eliminazione di alcuni ostacoli tecnici. La sua conclusione è che la maggior parte dell'accelerazione osservata nell'ottobre 2026 sia probabilmente attribuibile all'impiego dell'IA nelle attività di ricerca e sviluppo.

METR ipotizza che questa componente possa spiegare circa l'80% dell'accelerazione attuale, precisando però che si tratta di una valutazione soggettiva e molto incerta.

Il meccanismo è semplice. I modelli IA Claude sono utilizzati per scrivere codice, effettuare esperimenti, analizzare risultati e realizzare strumenti che accelerano lo sviluppo delle successive generazioni di modelli.

L'auto-miglioramento ricorsivo non è ancora una realtà completa

Il fenomeno che preoccupa Amodei è definito recursive self-improvement, o auto-miglioramento ricorsivo. Si verifica quando un sistema di intelligenza artificiale contribuisce alla realizzazione del proprio successore, che diventa a sua volta capace di accelerare ulteriormente il processo fino a giungere al punto (oggi soltanto teorico) in cui un modello IA crea l’evoluzione di sé stesso.

La possibilità di realizzare sistemi in grado di progettare, addestrare e migliorare autonomamente nuove generazioni di modelli costituirebbe un cambiamento profondo rispetto allo sviluppo tecnologico tradizionale.

Anthropic aveva già sollevato questo problema all'inizio di giugno, arrivando a proporre la possibilità di rallentare o sospendere temporaneamente lo sviluppo dei sistemi di frontiera, affinché la ricerca sulla sicurezza e le istituzioni potessero adeguarsi alla velocità del progresso.

L'indagine METR non dimostra che l'auto-miglioramento ricorsivo sia stato realizzato nella sua forma completa. I ricercatori hanno trovato soprattutto prove di un aumento della produttività umana grazie all'assistenza dell'IA e non hanno invece individuato contributi completamente autonomi di importanza paragonabile nelle fasi più decisive dell'addestramento dei modelli.

Gli stessi ricercatori riferiscono però di aver osservato segnali preliminari diun'automazione più avanzata, senza potere stabilire quanto rapidamente possa diventare determinante.

Amodei chiede di rallentare, Anthropic continua con nuovi modelli

Il contrasto tra l'appello alla prudenza e il ritmo industriale di Anthropic era emerso già a giugno, quando ha pubblicato il documento sull'auto-miglioramento ricorsivo, sostenendo l'opportunità di disporre di strumenti per rallentare la ricerca più avanzata. Cinque giorni dopo aveva presentato Claude Fable 5, descritto come il modello più potente mai distribuito al pubblico dalla società.

Il 12 settembre Dario Amodei ha reso ancora più esplicita la propria posizione, pubblicando il saggio We Must Pace the Frontier, sostenendo che – oltre a investire nella prevenzione dei rischi – occorra intervenire direttamente sul ritmo con cui aumentano le capacità dei modelli.

Il 22 settembre, dieci giorni dopo il saggio, Anthropic ha però presentato Claude Opus 5.5, un modello più capace del predecessore e, secondo i dati aziendali, meno costoso da utilizzare.

Sono seguiti Claude Sonnet 5.5, il 28 settembre, e Claude Haiku 5.5, il 7 ottobre. La successione dei lanci ha confermato che lo sviluppo e la commercializzazione dei modelli più avanzati proseguivano senza un rallentamento evidente nella frequenza delle nuove versioni.

L'indagine METR aggiunge un dato inedito. Infatti, al di là della rapidità con la quale si susseguono i lanci commerciali, ora c’è una misura della velocità con cui Anthropic sviluppa modelli più capaci.

Anthropic ha oscurato gran parte delle prove più importanti

Il punto più controverso dell'indagine riguarda la possibilità di verificare pubblicamente le conclusioni dei ricercatori.

METR aveva accesso a dati riservati relativi all'addestramento, all'efficienza degli algoritmi, ai benchmark dei modelli non ancora distribuiti e alle analisi interne sull'aumento della produttività.

Al termine dell'indagine, i ricercatori hanno preparato un rapporto completo di circa cento pagine. Anthropic ha esercitato però il diritto contrattuale di oscurare qualsiasi informazione non pubblica contenuta nei documenti destinati alla diffusione.

Tra i dati non divulgati figurano le stime dettagliate dell'accelerazione nelle diverse fasi dell'addestramento, le misurazioni dell'efficienza algoritmica, la distribuzione di alcuni fattori che contribuiscono al progresso e le previsioni sulle prestazioni di futuri modelli.

La verifica sulla capacità di calcolo destinata alla sicurezza è stata cancellata

L'incarico iniziale affidato a METR comprendeva una verifica della distribuzione della capacità di calcolo, in particolare tra le attività destinate a sviluppare modelli più capaci e quelle finalizzate alla sicurezza.

Durante l'indagine Anthropic ha modificato il perimetro dell'incarico, eliminando questa parte della verifica. Secondo quanto riferisce METR, l'azienda ha spiegato la decisione con l'intenzione di concentrare il lavoro sulla valutazione dell'accelerazione della ricerca, riservandosi di tornare successivamente sul tema.

La questione assume particolare rilievo alla luce dei dati pubblicati dalla stessa Anthropic. Esaminando la settimana dal 13 al 20 luglio 2026, l'azienda aveva stimato che circa il 6% della capacità di calcolo impiegata nella ricerca e sviluppo dell'IA fosse destinata ad attività classificate come sicurezza. La quota saliva a circa il 12% considerando soltanto il calcolo utilizzato dall'IA per svolgere altra ricerca e sviluppo sull'IA.

Anthropic ha inoltre precisato che la ricerca sulla sicurezza richiede spesso meno risorse computazionali rispetto all'addestramento dei modelli e che queste percentuali non misurano direttamente l'impegno complessivo dell'azienda per la sicurezza.

La risposta di Anthropic e i limiti dei controlli indipendenti

Sam McCandlish, cofondatore di Anthropic e ai vertici della Responsible Scaling Policy, ha commentato i risultati riconoscendo che l'intelligenza artificiale sta accelerando la ricerca dell'azienda, pur sottolineando le difficoltà nel quantificare esattamente il fenomeno.

McCandlish ha riconosciuto che gli oscuramenti rendono più difficile controllare il lavoro di METR, ma ha difeso la scelta di non pubblicare informazioni che potrebbero fornire ai concorrenti indicazioni dettagliate su come accelerare lo sviluppo.