Se il robot rompe, il produttore paga: l'Europa vuole introdurre una responsabilità per i danni delle intelligenze artificiali

Il robot aspirapolvere ci crea danni in casa? Il sistema medico di intelligenza artificiale sbaglia la diagnosi? Il drone del vicino si guasta e ci rompe la finestra? Adesso stabilire le responsabilità civili per i danni causati dall’intelligenza artificiale è difficile, ecco perché l’Europa prova a rimediare con una proposta di direttiva presentata questa settimana dalla Commissione. Obiettivo duplice, a quanto scrive l'esecutivo di Bruxelles: sia tutelare di più i consumatori, potenziali vittime di questi sistemi automatici; sia promuovere l’innovazione, che ha bisogno di regole certe per decollare. E che sarà sempre più presente nelle nostre vite, come dimostra anche il progetto di Elon Musk per la commercializzazione di un robot umanoide, Optimus.

Le due proposte della Commissione

In dettaglio, sono due le proposte della Commissione. In primo luogo, “propone di modernizzare le norme esistenti sulla responsabilità oggettiva dei produttori per i prodotti difettosi”, in un’ampia gamma che va dalle tecnologie intelligenti ai farmaci. “Le norme riviste daranno alle imprese la certezza del diritto in modo che possano investire in prodotti nuovi e innovativi e garantiranno che le vittime possano ottenere un equo risarcimento quando i prodotti difettosi, compresi quelli digitali e ricondizionati, causano danni”, come scrive la Commissione. In secondo luogo, “la Commissione propone per la prima volta un'armonizzazione mirata delle norme nazionali in materia di responsabilità per l'IA (intelligenza artificiale), rendendo più facile per le vittime di danni legati all'IA ottenere un risarcimento”. La direttiva semplificherà insomma l'iter legale per le vittime quando si tratta di dimostrare chi è responsabile di un danno.

Gli algoritmi della sanità

Se un drone si schianta su un tetto o un’auto che si guida da sola provoca un incidente, sarà quindi più facile dimostrare l’eventuale colpa del produttore. “Per i sistemi di AI considerati ad alto rischio, in caso di danni al consumatore l’azienda che li produce e quella che li usa devono dimostrare di avere fatto tutto il necessario per evitare i problemi”, spiega Stefano Quintarelli, tra i più noti tecnologi italiani (autore di un libro sull’intelligenza artificiale per Bollati Borlinghieri). Sistemi ad alto rischio, secondo una precedente proposta della Commissione (l’Ai Act) sono quelli che impattano fortemente sulle nostre vite. Intelligenza artificiale in Sanità, per la giustizia, per la polizia o per la selezione del personale, ad esempio. La Commissione specifica anche cosa sarà necessario fare, per le aziende: indica obblighi di trasparenza, accuratezza, robustezza, supervisione umana, cyber security.

Responsabili anche i distributori

Per tutti i sistemi di IA, inoltre, la proposta stabilisce che ci sia un nesso causale tra difetto del prodotto e danno, se l’azienda non ha dato abbastanza informazioni agli utenti, se ci sono evidenti malfunzionamenti o non rispetta requisiti di sicurezza; ma anche se è una “black box”, ossia l’algoritmo usato è così complesso da non permettere nemmeno agli autori di capire i motivi delle sue decisioni. Questo è un punto innovativo nella proposta, perché impedisce ai produttori di IA, in caso di problemi, di cavarsela con un “non potevo prevederlo, perché l’algoritmo è troppo complesso e le sue azioni non sono spiegabili”. “Si noti – aggiunge Quintarelli – che secondo la proposta la responsabilità si estende ai distributori, compreso Amazon, in caso di sistemi venduti in Paesi diversi da quelli di origine. Non possono lavarsi le mani insomma se vendono prodotti pericolosi realizzati in Cina”.

Più garanzie per i consumatori

Come spiega l’avvocato Alessandro Mastromatteo, la proposta “è un passo avanti decisivo per spingere i produttori a maggiori cautele e attenzioni in fase di progettazione, realizzazione e successivi sviluppi”. La Commissione ribadisce che la finalità è anche la promozione del mercato e dell’innovazione, ma “la Business Europe, l’associazione industriale europea, si è già espressa contro questa proposta perché considera eccessivo l’onere messo in capo alle aziende”, dice Quintarelli. Non è d’accordo con loro l’avvocato Rocco Panetta, che giudica la proposta un importante e atteso passo perché senza “l’alleggerimento dell’onere della prova in capo ai consumatori danneggiati e l’obbligo a dare loro maggiori informazioni, difficilmente le vendite di questi prodotti decollerebbero”. Concorda l’avvocato Marco Martorana: “La certezza del diritto e i rimedi effettivi ai danni causati dall’utilizzo di questi prodotti ne promuoveranno la diffusione, beneficiando tutta la società (compresi i produttori)”.

Un equilibrio difficile

“Obiettivo fondamentale della proposta è tentare di raggiungere un difficile equilibro tra tutela dei consumatori e sviluppo dell'innovazione digitale. La Commissione individua questo punto di equilibrio nell'empowement dei consumatori rispetto ai danni che possono derivare dai sistemi di intelligenza artificiale”, riassume Oreste Pollicino, ordinario all’università Bocconi di Milano. Ma il punto di equilibrio segnato dalla Commissione è solo il primo tentativo di una mediazione politica e normativa, che occuperà i prossimi anni. La proposta della Commissione deve essere adottata da Consiglio e Parlamento europeo e poi, se resterà direttiva, recepita dagli Stati. Ci sarà tempo quindi per cercare un eventuale migliore compromesso tra consumatori e aziende, per garantire un beneficio collettivo.