Demis Hassabis di Google DeepMind, Sam Altman di OpenAI, Dario Amodei di Anthropic e Mustafa Suleyman di Microsoft AI sono tra i firmatari di una lettera pubblica che chiede nuove leggi sul DNA e sull’RNA sintetici.
La proposta è rivolta ai legislatori statunitensi. Chiede che le aziende che vendono materiale genetico prodotto su richiesta siano obbligate a controllare sia i clienti sia gli ordini. L’obiettivo è impedire che sequenze biologiche potenzialmente pericolose finiscano nelle mani sbagliate.
La lettera riunisce dirigenti dell’IA, ricercatori, esperti di sicurezza biologica e imprenditori del settore tecnologico.
I firmatari chiedono ai legislatori di “rendere obbligatorio lo screening degli ordini di acidi nucleici sintetici e delle apparecchiature necessarie per produrli”.
Che cosa significa ordinare DNA sintetico
Il DNA sintetico è uno strumento normale nella ricerca moderna.
Viene usato per studiare malattie, sviluppare vaccini, costruire test diagnostici e progettare nuovi farmaci.
In molti casi, un laboratorio può inviare a un’azienda una sequenza genetica e ricevere il materiale prodotto su misura.
Questa infrastruttura ha accelerato la biotecnologia. Ma ha anche un rischio evidente: la stessa tecnologia utile alla medicina può essere usata per costruire componenti di tossine, virus o altri agenti biologici dannosi.
Per questo si parla di tecnologia “dual use”, cioè a doppio uso. Può servire a scopi legittimi, ma anche a scopi ostili.
Un problema noto da anni
Da tempo gli esperti di biosicurezza avvertono che la sintesi del DNA può essere usata in modo improprio.
Un caso spesso citato risale al 2017, quando ricercatori in Canada ricostruirono un virus estinto, l’horsepox, usando DNA ordinato per posta. L’esperimento era legale e condotto in ambito scientifico, ma mostrò quanto fosse diventato concreto il problema.
Negli anni successivi, alcune ricerche hanno indicato che strumenti di progettazione biologica basati sull’IA potrebbero rendere più difficile riconoscere sequenze pericolose. Questo non significa che una minaccia sia imminente. Ma “alla luce della rapidità con cui la tecnologia di base sta cambiando, riteniamo che la necessità sia urgente”, scrivono i più influenti CEO dell’IA.
“Il Congresso - aggiungono - dovrebbe agire durante questa sessione legislativa e accogliamo con favore gli sforzi legislativi attualmente in corso. Per garantire uno standard nazionale coerente, evitando un mosaico di norme contrastanti, anche gli Stati federati dovrebbero valutare l’introduzione di requisiti basati sulle linee guida federali e industriali già esistenti”.
Il ruolo dell’intelligenza artificiale
Il principale motivo di preoccupazione esposto nel documento è l’avvicinamento tra biologia sintetica e intelligenza artificiale. I modelli più avanzati possono aiutare a cercare informazioni, generare ipotesi, ottimizzare proteine e orientarsi in procedure tecniche complesse.
La lettera non afferma che oggi l’IA consenta facilmente di costruire un’arma biologica. Anzi, riconosce che le prove sul pericolo attuale sono “genuinamente miste”. Sottolinea però un’urgenza: secondo i firmatari, l’IA potrebbe ridurre le barriere di competenza che finora hanno limitato questo tipo di attività ad attori molto specializzati.
“I sistemi di IA oggi superano virologi con livello di dottorato su domande relative a procedure di laboratorio altamente tecniche nei rispettivi ambiti di competenza - sostengono Altman e i suoi colleghi -. Le evidenze su ciò che questo comporta per le minacce attuali alla biosicurezza sono effettivamente contrastanti, ma la tendenza è difficile da contestare. I sistemi di IA migliorano rapidamente e, accanto a benefici straordinari per la scienza e la medicina, esiste una possibilità concreta che le barriere di conoscenza che storicamente hanno impedito ad attori malevoli di ottenere armi biologiche si indeboliscano in modo significativo”.
Il timore dunque è che una persona o un gruppo con cattive intenzioni possano usare modelli avanzati per progettare sequenze pericolose o inoltrare un ordine in modo da superare controlli deboli.
Che cosa chiedono i firmatari
I CEO delle principali aziende IA chiedono tre misure principali: controllare le sequenze ordinate, verificare l’identità e la legittimità dei clienti, conservare registri che permettano di ricostruire gli ordini sospetti.
Alcune aziende del settore applicano già verifiche volontarie. Ma i firmatari sostengono che un sistema basato sulla buona volontà dei singoli operatori sia troppo fragile. Se anche solo alcuni fornitori non controllano gli ordini, diventano il punto debole dell’intera filiera.
Una legge renderebbe lo screening obbligatorio e uniforme. In teoria, ridurrebbe il rischio che un cliente respinto da un fornitore possa rivolgersi a un altro con controlli meno severi.
Gli interessi dietro l’allarme
La richiesta dei leader dell’IA può essere letta anche in termini industriali.
Per OpenAI, Anthropic, Google DeepMind e Microsoft AI, sostenere controlli sul DNA sintetico è una posizione nobile: mostra attenzione alla sicurezza, ma sposta gran parte della responsabilità su un altro punto della catena, cioè sulle aziende che producono e vendono materiale genetico.
Nella lettera si parla apertamente di come l’intelligenza artificiale contribuisce al rischio di potenziali armi biologiche, eppure nessuno dei firmatari fa riferimento a regole che interessano la tecnologia che sviluppano.
Non viene chiesta, almeno direttamente, un’autorizzazione governativa preventiva per ogni nuovo modello di IA. Né il blocco allo sviluppo commerciale dei sistemi più avanzati. Altman, Hassabis e gli altri suggeriscono invece di intervenire nel momento in cui un rischio biologico potrebbe diventare fisico, attraverso l’ordine di DNA o RNA.
Il loro allarme non va ignorato. Tuttavia bisogna tenere a mente che le grandi aziende dell’IA prendono sul serio i rischi anche in nome dei loro interessi: in questo modo riducono le pressioni politiche più ampie e contribuiscono a scrivere le regole prima che siano i governi a imporle da soli.