Italian Tech

Responsabilità

Chi paga se l'hacker è un algoritmo? Il vuoto normativo americano e le norme europee

di
Chi paga se l'hacker è un algoritmo? Il vuoto normativo americano e le norme europee

Le recenti ammissioni di OpenAI e Anthropic sugli attacchi autonomi dei loro modelli aprono una sfida legale. Tra vuoti normativi e responsabilità delle aziende, il confine tra errore tecnico e reato informatico si fa sempre più sottile

3 minuti di lettura

Tornando sugli agenti di intelligenza artificiale (IA) di OpenAI e Anthropic che hanno operato delle violazioni a danno di siti e piattaforme terze animando un dibattito che prosegue senza sosta dal 21 luglio scorso, la testata TechCrunch ha messo il focus sulla responsabilità oggettiva di questi incidenti, facendo emergere un vuoto normativo tutto americano.

Da qui, il paragone con le norme vigenti in Europa, su tutte l’AI Act, consente di osservare a bocce ferme la convinzione secondo cui sarebbe un male che, mentre America (e Cina) innovano, l’Europa si limita a normare. Affermazione che può essere condivisa o meno, ma l’aspetto normativo sta emergendo preponderante al fianco delle IA, il cui sviluppo rischia di essere monco senza un adeguato quadro di leggi.

Ci si interroga rispetto alle IA che evolvono più in fretta delle capacità regolatorie dei legislatori ma, i due incidenti, sollevano un interrogativo: se una macchina commette un reato senza che nessun essere umano le abbia dato l'ordine di farlo, di chi è la colpa?

Fuga dai laboratori

Il terremoto nel settore è iniziato quando, lo scorso 21 luglio, OpenAI ha rivelato che uno dei suoi modelli non ancora rilasciati è riuscito a evadere dal proprio ambiente di contenimento (una sandbox), finendo su internet e hackerando la piattaforma di dataset Hugging Face.

Una decina di giorni dopo anche Anthropic ha condotto una revisione interna scoprendo che dei modelli IA proprietari avevano violato i sistemi di tre diverse aziende.

In entrambi i casi, ciò che rende la situazione legalmente complessa è la totale assenza di un intervento umano diretto al momento degli attacchi. Nonostante le due aziende abbiano descritto questi eventi come test finiti male, il fatto che le IA abbiano guadagnato un accesso non autorizzato a sistemi esterni configura, tecnicamente, una violazione informatica.

Il labirinto delle leggi

Il problema principale per chi volesse cercare giustizia in tribunale risiede nell'attuale impianto normativo americano, che è stato concepito decenni prima della nascita dei moderni modelli IA.

Negli Stati Uniti, la legge principale che punisce le intrusioni informatiche – ossia il Computer Fraud and Abuse Act (CFAA) – approvato nel 1986 e aggiornato l’ultima volta nel 2022, si basa sui concetti di intenzione e consapevolezza, come sottolinea un approfondimento della Columbia University.

Va da sé che gli algoritmi non hanno né intenzione né consapevolezza e quindi non possono essere perseguiti, a patto che perseguirne penalmente uno o più d’uno abbia un senso.

La colpa dei creatori

Se gli algoritmi non possono essere perseguiti né secondo i crismi del codice penale né secondo quelli del codice civile, la colpa deve per forza di cose cadere sui creatori. E qui, nel diritto americano, si apre una biforcazione. La strada del diritto penale appare in salita, quella delle cause civili per negligenza sembra molto più percorribile.

Le aziende colpite potrebbero sostenere che OpenAI e Anthropic siano state imprudenti nella gestione dei loro test, non riuscendo a implementare salvaguardie adeguate per impedire ai modelli di connettersi alla rete o di colpire determinati bersagli.

In quest’ottica sembrerebbe più esposta Anthropic, che ha scoperto le violazioni compiute dal proprio sistema solo mesi dopo l'accaduto, dimostrando una preoccupante mancanza di monitoraggio.

Inoltre, il fatto che le aziende abbiano ammesso di aver creato delle protezioni specifiche contro le capacità di hacking dei loro modelli, ma che queste siano state disattivate o aggirate durante i test, potrebbe rafforzare l'accusa di negligenza.

Verso nuove regole

A oggi non risulta che una delle società coinvolte nelle violazioni abbia avviato azioni legali contro OpenAI o Anthropic. Tuttavia, il Ceo di Hugging Face, Clem Delangue, ha chiesto maggiori carichi di responsabilità per le aziende che sviluppano agenti IA, sollecitando l'introduzione di obblighi di trasparenza e di divulgazione degli attacchi informatici compiuti autonomamente da tali sistemi.

Nel vuoto lasciato dalle leggi federali, alcuni stati come la California e New York hanno iniziato, tra la fine del 2025 e la primavera del 2026, a muoversi per introdurre obblighi di governance, sicurezza, trasparenza e segnalazione degli incidenti.

Negli Usa emerge il dibattito già affrontato in Europa

L'AI Act prevede quegli obblighi dei quali negli Usa si sta cominciando a dibattere. Impone la governance e la gestione del rischio per i sistemi particolarmente sensibili, esige accuratezza, robustezza e cybersicurezza dei sistemi di IA, trasparenza verso utenti e autorità e caldeggia gli obblighi di informazione, cooperazione con le autorità e adozione di misure correttive in caso di problemi rilevati.

Se i due incidenti fossero successi nell’Unione europea, l’AI Act avrebbe individuato con maggiore chiarezza i soggetti obbligati, pure non essendo automaticamente in grado di stabilire chi avrebbe dovuto eventualmente risarcire il danno.

Infatti, per i modelli di uso generale classificati a rischio sistemico, l’articolo 55 dell’AI Act impone al provider di valutare il modello anche mediante test avversariali, individuare e mitigare i rischi sistemici, segnalare gli incidenti gravi e garantire un livello adeguato di cybersicurezza.

La Commissione europea può ordinare misure correttive, limitare la distribuzione o ritirare il modello, come stabilisce l’articolo 93, e può infliggere ai provider sanzioni fino a 15 milioni di euro oppure fino al 3% del fatturato mondiale annuo, scegliendo l’importo più alto tra le due sanzioni, quando accerta – secondo l’articolo 101 – che il fornitore ha agito intenzionalmente o per negligenza.

Tuttavia, anche l’AI Act ha dei limiti che vanno applicati al caso specifico. Infatti, esclude dal proprio campo di applicazione le attività di ricerca, sviluppo e sperimentazione svolte prima dell’immissione del modello sul mercato.

I prototipi interni utilizzati negli incidenti potrebbero quindi rientrare nell’esenzione prevista dall’articolo 2. Diverso sarebbe il caso dei modelli già distribuiti nell’Unione, come GPT-5.6 Sol o Claude Opus 4.7 i quali, se qualificati come modelli di uso generale a rischio sistemico, esporrebbero i rispettivi provider agli obblighi europei.

L’AI Act, da solo, non avrebbe però risolto automaticamente la responsabilità civile o penale per l’attacco che dovrebbe essere accertata applicando il diritto nazionale, le norme europee sulla protezione dei dati e, quando pertinenti, quelle sulla cybersicurezza. La stessa Commissione europea ha avviato interlocuzioni con entrambe le società.

Le differenze tra le norme comunitarie e quelle americane ci sono e sono nette. Occorre accarezzare l’idea che l’attività normativa europea, nel contesto della crescita e dell’accelerazione dei modelli IA, non è soltanto da demonizzare.

Leggi anche

© Riproduzione riservata