L’IA è troppo grande per un tribunale

A lanciare l'allarme sull'intelligenza artificiale sono ormai le stesse imprese che la sviluppano. Nel prospetto per la quotazione in Borsa, Anthropic avverte gli investitori di “rischi catastrofici o esistenziali per l'umanità” e il suo ceo, Dario Amodei, ha chiesto all'intero settore di rallentare. I segnali sono concreti: a luglio due modelli di OpenAI sono usciti dall'ambiente di prova e hanno violato i sistemi di Hugging Face per barare a un test. E Bill Gates ha dichiarato al New York Times che quest'anno l'IA ha superato due soglie critiche: può aiutare un terrorista a costruire un'arma biologica o a mettere fuori uso una rete elettrica.

Nel frattempo, in Italia, dal 30 settembre è in vigore il decreto legislativo 160/2026, che attua il regolamento europeo sull'IA. Il giudice civile può ordinare all'impresa di esibire le prove sul funzionamento del sistema. Se l'impresa ha violato un obbligo europeo già applicabile, il nesso causale si presume, salvo prova contraria. La conformità alle regole non basta a escludere la responsabilità. Inoltre, se il responsabile è assicurato, il danneggiato può agire direttamente contro la compagnia, nei limiti della polizza, come per i sinistri stradali, benché l'assicurazione non sia obbligatoria. Ma chi sarà disposto ad assicurare questi rischi? IVASS l’Istituto per la Vigilanza sulle Assicurazioni, ha già avvertito che mancano dati storici, che i danni possono essere seriali e correlati e che il nesso causale è spesso incerto.

Nasce anche un reato: chi progetta o immette sul mercato un sistema ad alto rischio senza le misure di sicurezza o la sorveglianza umana prescritte è punito con la reclusione da uno a cinque anni, se ne deriva un pericolo per la vita o l'incolumità delle persone.

Il limite degli interventi nazionali sta tutto nella scala del rischio. L'azione risarcitoria presuppone un responsabile individuabile e solvibile; con l'IA la catena tra chi sviluppa il modello, chi lo integra e chi lo usa è lunga, e del resto i modelli più potenti nascono quasi tutti fuori dall'Europa. A chi ritiene sufficiente la responsabilità del produttore, Gates ha replicato: “Mettiamo che abbiano ucciso cento milioni di persone: che ve ne fate di una causa?”. L'IA, ha aggiunto, è "la cosa più pericolosa con cui l'umanità abbia mai avuto a che fare”: affidarsi all'autoregolazione “è una follia”. Farmaci e aerei, ha ricordato, sono sicuri perché vengono controllati prima.

Washington non si muove. Il presidente Trump ha liquidato come “una bufala” i timori di un'IA fuori controllo e punta sull'autoregolazione: l'impegno a sottoporsi a verifiche indipendenti, firmato il 29 settembre da sei grandi aziende tra cui OpenAI, Anthropic e Google, è solo “moralmente vincolante”. Pesa poi un conflitto di interessi: le imprese che lanciano l'allarme continuano a correre, tra loro e contro la Cina, perché la frontiera è ormai una gara tra pochissimi e chi rallenta rischia di uscirne. E c'è chi osserva che l'allarme accresce il valore percepito di chi va in Borsa.

Qualcosa si muove, in ordine sparso. La Federal Trade Commission ha chiesto a OpenAI e Anthropic documenti sugli incidenti. Una trentina di capi di Stato e di governo, tra cui la presidente della Commissione europea, chiedono test obbligatori prima della diffusione dei modelli e di valutare la creazione di un'istituzione internazionale che fissi regole comuni.

Il decreto italiano tutela chi ha già subito un danno, e non è poco. Ma impedire che il danno si produca è un compito che nessun tribunale, e nessuno Stato da solo, può assolvere.

* avvocato, partner dello studio legale internazionale DLA Piper