Il manifesto “anti-IA” dell’uomo che ha provato a uccidere Sam Altman

C’è un documento che gli inquirenti statunitensi hanno trovato e analizzato poco dopo l’arresto di Daniel Moreno-Gama. Un manifesto che l’uomo che avrebbe provato a uccidere il capo di OpenAI, Sam Altman, avrebbe inviato a qualche centinaio di persone prima di iniziare la sua missione. Un documento in tre parti. Titolo: “Il vostro ultimo avvertimento” (Your last warning). Traccia le linee di quello che sembra un manifesto ideologico radicale contro lo sviluppo dell’intelligenza artificiale. Tutto ruota intorno al concetto di “manipolazione del consenso”.

Per Moreno-Gama, 20 anni, texano, l’industria dell’IA è il nemico numero uno dell’umanità. Una gigantesca macchina di manipolazione delle menti e della politica che porterà al collasso della cività umana. Altman nel documento è la “Vittima-1”. È indicato proprio così. La prima di una serie di “Vittime” che Moreno-Gama individua e suggerisce di fare fuori. Con nomi e cognomi, indirizzi e particolari sulla vita di un elenco piuttosto lungo di manager della Silicon Valley. Ecco perché il documento non è stato reso pubblico. Per evitare emulazioni e diffondere dati sensibili.

Un testo via email. Le autorità non lo pubblicano per evitare emulazioni

Il testo scritto da Moreno-Gama e inviato via e-mail al suo ex college in Texas, comprende tre sezioni distinte che mescolano critica macroeconomica e retorica violenta. La prima si chiama: “Il vostro ultimo avvertimento”. Una sezione in cui l’autore rivendica l'attacco contro il capo di OpenAI, affermando di voler dimostrare la propria serietà d’azione compiendo il primo omicidio.

È qui che il testo include un elenco di nomi e indirizzi privati di membri dei consigli di amministrazione e investitori di diverse società di IA. Poi una seconda parte: “Ancora qualche parola sulla questione della nostra imminente estinzione”. L’autore qui analizza i rischi esistenziali che l'IA rappresenterebbe per l'umanità. Poi l’ultima, diretta ad Altman. “A [Vittima-1] se sopravvivi": Una lettera diretta al dirigente in cui l'eventuale sopravvivenza all'attacco viene interpretata come un "segno divino" per la redenzione della vittima. Insomma, l’avvertimento è: se sopravvivi, pentiti.

L’accusa all’industria tech: una colossale macchina di manipolazione

Non ci sono molti altri passaggi citati nei documenti ufficiali degli inquirenti americani. Ma online in queste ore diverse persone stanno pubblicando screenshot da forum pubblici dove Moreno-Gama partecipava con lo pseudonimo di “Butlerian Jihadist/dmgama”.

Nei passaggi verificati si legge che l’autore paragona l'industria tecnologica della Silicon Valley a un "piccolo cartello di individui”. Loro avrebbero ingannato il governo e i cittadini. L'autore traccia un parallelo tra l'attuale sviluppo dell'IA e le passate bolle finanziarie, come quella delle "Dot Com" del 2000 e il crollo immobiliare del 2008.

"Le nostre industrie non sembrano aver imparato da questi crolli", scrive l'autore, citando criptovalute e metaverso (il progetto di Meta per creare uno spazio virtuale, oggi passato in secondo ordine nei piani aziendali) come esempi di bolle speculative. Vecchie e recenti. Moreno-Gama accusa i leader del settore di avere una "dipendenza dal gioco d'azzardo", sostenendo che stiano giocando una "roulette russa con tutte le nostre vite" senza un esplicito consenso informato della popolazione.

Manipolazione, bolle, e la roulette

La manipolazione finalizzata all’azzardo della tecnologia è il peccato originale della Silicon Valley, per Moreno-Gama. Uno strato di retorica copre le intenzioni reali delle aziende tecnologiche. Permette ai capi di giocare alla roulette delle innovazioni (qualcuna andrà bene, qualcuna andrà male nonostante il costo umano in termini intellettivi, personali, politici). E questo gioco viene spacciato come necessario. Tutto giustificato dal fatto che la tecnologia deve andare avanti. Deve tracciare nuove strade di sviluppo. Qualsiasi cosa comporti. Qualsiasi sacrificio richieda.

Moreno-Gama sostiene che, man mano che si sale nelle gerarchie del potere aziendale (e oggi politico), le competenze tecniche (come creare un buon prodotto) diventano secondarie rispetto alla capacità di manipolare le percezioni. Egli scrive che ai massimi livelli è richiesta una: "...padronanza di competenze trasversali (soft skills) come l'argomentazione e la pubblicizzazione di prodotti, ideologie e persone”. Per l'autore, questa non è una dote di leadership, ma una precondizione per la manipolazione sistematica, attuata tramite informazioni fuorvianti o "convincentemente esagerate”. Insomma, un complotto. Ordito da aziende e politica. Per curvare ai propri interessi il mercato, le persone, l’intera società.

Le accuse a Moreno-Gama

I testi sono violenti. Moreno-Gama auspicava una sorta di insurrezione neoluddista contro i capi del tech. Eppure gli inquirenti dicono che non risultano armi da fuoco o esplosivi registrati a nome di Moreno-Gama nel registro nazionale. L'attentato sarebbe stato compiuto utilizzando ordigni incendiari improvvisati. L'imputato cita a supporto delle sue tesi uno studio del 2022, secondo il quale oltre il 50% dei ricercatori del settore riterrebbe che esista una probabilità pari o superiore al 10% di una catastrofe globale derivante dall'IA.

Daniel Moreno-Gama deve rispondere oggi di diversi capi d'imputazione federali: tentato omicidio, possesso di congegni distruttivi. Se condannato, rischia decine di anni di detenzione in una prigione federale. OpenAI e i legali del dirigente coinvolto non hanno rilasciato commenti immediati sui dettagli del manifesto. Il caso evidenzia una crescente tensione sociale legata alla velocità del progresso tecnologico, con le autorità di sicurezza americane che monitorano con crescente attenzione le frange radicali del movimento anti-IA.