Il futuro della sicurezza nazionale americana è diventato il terreno di scontro tra i nuovi giganti della Silicon Valley e i vertici militari di Washington.
Al centro della disputa c’è Claude, il modello linguistico di Anthropic, e una domanda ipotetica che ha gelato i rapporti tra le parti: l’intelligenza artificiale può avere l’ultima parola in un attacco nucleare?
L’ipotesi di un attacco nucleare che ha messo alle corde Anthropic
Secondo una ricostruzione esclusiva pubblicata dal Washington Post, il punto di rottura definitivo tra Anthropic e il Dipartimento della Difesa americano - ribattezzato da Trump in “Dipartimento della Guerra” - risalirebbe a un incontro riservato avvenuto lo scorso dicembre.
Durante la riunione, il Sottosegretario alla Guerra per la Ricerca e l'Ingegneria, Emil Michael, avrebbe sottoposto a Dario Amodei, CEO di Anthropic, uno scenario di crisi nazionale estrema: un attacco imminente di missili balistici diretti verso il suolo statunitense. Michael intendeva verificare se, in una situazione in cui i tempi di reazione umani risultano insufficienti, l’azienda avrebbe permesso ai propri modelli di intelligenza artificiale di assumere il controllo dei sistemi difensivi per neutralizzare la minaccia.
Lo scenario poneva Anthropic di fronte alla scelta tra la protezione della vita umana su vasta scala e il rigido rispetto dei propri protocolli contro l'uso dell’IA per rendere autonome le armi.
Il peso strategico dei tempi di reazione
Il Pentagono sostiene che l’integrazione dell’intelligenza artificiale nei sistemi di difesa antimissile non sia una scelta ideologica, ma una necessità tecnica imposta dalla rapidità degli armamenti ipersonici, capaci di colpire obiettivi prima che una catena di comando umana possa intervenire.
La richiesta di un accesso senza restrizioni a Claude - che già ha avuto un ruolo, a quanto pare, nell’operazione che ha portato alla cattura di Nicolas Maduro - mirava proprio a ipotizzare l’eliminazione di qualsiasi ritardo burocratico o tecnologico.
Al contrario, il rifiuto fermo di Anthropic riflette il timore che un'IA priva di supervisione possa interpretare erroneamente i dati, innescando un’escalation nucleare accidentale a causa di un'allucinazione, ovvero un errore di logica del sistema che in contesti civili appare innocuo, ma che in ambito bellico risulterebbe catastrofico.
Il Pentagono: “Amodei arrogante”
In risposta al “test” militare, Amodei avrebbe suggerito che, di fronte a un simile evento, il governo avrebbe potuto contattare direttamente l'azienda per discutere una deroga temporanea ai protocolli di sicurezza e "trovare una soluzione insieme".
Questa posizione è stata interpretata dai vertici della Difesa come una prova di inaccettabile arroganza. Per il Pentagono, l’idea che la difesa nazionale debba dipendere dal permesso telefonico di un dirigente privato rappresenta una vulnerabilità strategica insostenibile.
Alla fine la risposta di Amodei, giudicata evasiva e carica di riserve etiche, ha segnato l’inizio di una crisi che ha portato all’estromissione di Anthropic dai contratti governativi.
Le linee rosse invalicabili
Ma all’origine di questa rottura ci sono i cosiddetti "guardrail" su cui Anthropic non ha alcuna intenzione di cedere, ovvero i limiti di sicurezza informatici che impediscono all'intelligenza artificiale di compiere determinate azioni.
L’azienda guidata da Amodei ha basato la sua intera identità aziendale sulla "AI Safety", un approccio che mira a rendere i sistemi affidabili e allineati ai valori umani. Per quanto concerne l’utilizzo militare, Anthropic ha tracciato due linee rosse invalicabili: Claude non può essere utilizzata per per la sorveglianza di massa dei cittadini americani e per progettare o gestire armi letali completamente autonome, che possano cioè decidere di uccidere senza un diretto intervento umano.
Per il Pentagono, che sostiene di voler utilizzare l’IA di Anthropic per tutti gli scopi “leciti”, le restrizioni dell’azienda rappresentano un rischio per la sicurezza nazionale, poiché potrebbero bloccare processi critici in situazioni di emergenza bellica.
La furia del Pentagono su Anthropic
Per questo, insomma, la risposta dell'amministrazione statunitense è stata drastica. Il Segretario alla Difesa, Pete Hegseth, ha accusato Anthropic di voler imporre i propri termini di servizio al governo, mettendo in pericolo i soldati americani.
Per la prima volta nella storia recente, il Pentagono ha quindi designato Anthropic come un "rischio per la catena di approvvigionamento", un'etichetta solitamente riservata ad aziende di nazioni avversarie come la russa Kaspersky o la cinese Huawei.
Questa mossa, unita all'ordine esecutivo di cessare immediatamente ogni utilizzo dei prodotti di Anthropic nelle agenzie federali, isola di fatto Anthropic dal mercato della difesa, nonostante il contratto da 200 milioni di dollari firmato solo l'estate scorsa.
L’accordo tra Pentagono e OpenAI
Mentre i rapporti con Anthropic naufragavano, OpenAI ha scelto una strada diametralmente opposta.
Sam Altman, CEO dell’azienda che ha creato ChatGpt, ha annunciato il raggiungimento di un accordo con il Dipartimento della Guerra per integrare i propri modelli nelle reti classificate militari.
Pur dichiarando di condividere le preoccupazioni etiche di Dario Amodei sulla sorveglianza di massa e sullo sviluppo di armi letali autonome, Altman ha deciso di non scontrarsi frontalmente con l'amministrazione.
OpenAI ha infatti accettato di operare all'interno del perimetro legale tracciato dal governo, cercando un punto di equilibrio tra le esigenze della sicurezza nazionale e i propri protocolli di sicurezza.
Il compromesso di Sam Altman
Il fulcro tecnico di questo compromesso risiede nel cosiddetto "safety stack", ovvero una struttura a strati sovrapposti progettata per regolare l'interazione tra l'intelligenza artificiale e l'utilizzatore finale.
In termini semplici, si tratta di un sistema di filtri e controlli intermedi che agisce come una camera di compensazione: il governo può impartire comandi e utilizzare la capacità di calcolo del modello per scopi ritenuti leciti, ma ogni input deve passare attraverso una serie di protocolli di verifica automatizzati.
Questi strati di sicurezza hanno il compito di bloccare preventivamente qualsiasi richiesta che violi i principi fondamentali dell'azienda, come la generazione di codice per attacchi informatici indiscriminati o la pianificazione di operazioni che mirano specificamente a colpire popolazioni civili.
Da colleghi a rivali: la guerra fredda tra Altman e Amodei
Lo scontro all’ombra del Pentagono è l'ultimo capitolo di una rivalità personale che dura da anni.
Dario Amodei era infatti uno dei massimi dirigenti di OpenAI, ma nel 2021 decise di abbandonare la società insieme alla sorella Daniela e a un gruppo di ricercatori senior.
Il motivo della scissione fu proprio il dissenso sulla visione di Altman, giudicata troppo orientata al profitto e meno attenta ai rischi esistenziali dell’intelligenza artificiale.
Da allora, Anthropic e OpenAI rappresentano due filosofie opposte: la prima focalizzata sulla cautela e sul controllo etico, la seconda sulla diffusione di massa e sull'integrazione con il potere costituito.
Recentemente la tensione tra i due leader è diventata palese durante l’AI Summit che si è svolto a Nuova Delhi, dove Altman e Amodei hanno evitato di stringersi la mano sul palco, rendendo visibile una frattura che non è più solo tecnologica, ma ideologica e politica.
Il tradimento della missione non-profit
Per molti l’accordo siglato da Sam Altman rappresenta un punto di non ritorno rispetto allo statuto originario di OpenAI.
Fondata nel 2015 come organizzazione senza scopo di lucro, la società aveva il mandato esplicito di sviluppare un’intelligenza artificiale generale - definita come un sistema autonomo capace di superare l’essere umano nella maggior parte dei compiti economicamente rilevanti - a esclusivo beneficio dell’umanità, garantendo trasparenza e condivisione dei risultati.
In realtà la successiva chiusura dei propri codici sorgente e la recente metamorfosi in una "Public Benefit Corporation", un’entità che pur avendo scopi sociali opera per generare profitti, e avevano già alimentato dubbi sulla tenuta etica dell’organizzazione.
“Valeva la pena tentare”, nel libro sulla storia di OpenAI l’incontro tra Sam Altman e Steve Jobs
Tuttavia l’integrazione diretta nei sistemi classificati del Dipartimento della Guerra viene letta oggi da molti osservatori come il definitivo tradimento della missione originaria di OpenAI: il laboratorio che doveva rappresentare un contrappeso allo strapotere tecnologico è diventato il pilastro del complesso militare-industriale statunitense.