Intelligenza artificiale, un nuovo Minority Report

Grazie all’Intelligenza artificiale faremo a meno dei giudici? Se un software predittivo ci desse la certezza che Tizio o Caio commetterà un crimine, perché attendere che lo commetta e poi giudicarlo quando potremmo fermarlo prima? È il tema di Minority Report, il celebre racconto di Philip K. Dick diventato un film di culto con Tom Cruise: creature dotate di superpoteri, i “pre-cog”, predicono futuri crimini che vengono impediti dalla neutralizzazione dei futuri colpevoli.

Un tempo era fantascienza, oggi scienza applicata. Rivela il Guardian l’esistenza di un programma, il “progetto per la predizione degli omicidi”, che mira a individuare soggetti che presentano l’elevatissimo rischio di commettere crimini violenti.

Gli algoritmi si basano su una sterminata massa di dati identificativi, non solo di individui già coinvolti in vicende criminali, ma anche di vittime dei delitti e finanche di persone che, pur del tutto estranee a qualunque logica delinquenziale, risultano essere entrate in contatto con le autorità di polizia. Ulteriori dati affluiscono, poi, da indicatori di salute che potrebbero rivelarsi spie di tendenze devianti: malattie mentali, dipendenza da sostanze, vulnerabilità, tentato suicidio e persino disabilità.

Uno scenario da incubo per i ricercatori dell’organizzazione indipendente Statewatch, che ha reso pubblico il programma governativo. Al momento, ovviamente, non sono previsti sviluppi immediati e diretti come quelli ipotizzati da Dick e Spielberg, e gli scopi dichiarati si limitano a un affinamento delle tecniche d’indagine: la presunzione d’innocenza, dopo tutto, risulta ancora in vita. Ma il tema del rapporto, di sempre crescente interazione, fra IA e diritto è oggetto da anni di un dibattito appassionato.

Il recente Regolamento europeo sull’IA — solo in parte già operativo — prende la questione estremamente sul serio, valutando l’IA sotto due aspetti: come strumento di polizia, dunque per prevenire i reati, e come supporto al giudice una volta accertato il reato. Il testo alterna caute aperture a una ragionevole diffidenza verso strumenti potenzialmente di letale invasività.

La centralità della presunzione d’innocenza è ribadita, la profilazione preventiva è ammessa soltanto laddove sorretta da elementi concreti (valutazione del rischio finanziario a seguito di frodi pregresse, individuazione delle rotte della droga) e sempre vietata quando si basi solo su tratti della personalità.

Divieto che vale anche per la sfera della prevenzione e dovrebbe portare a escludere l’operatività dei sistemi di riconoscimento che “leggono” le emozioni (attraverso la postura del corpo, ad esempio, o i movimenti oculari, la prossemica in generale) e pure di quelle interazioni fra banche dati che, arricchendo a dismisura i data-base, annientano ogni forma di tutela della riservatezza.

La vecchia Europa, insomma, sembra andarci con i piedi di piombo e appare schierata a difesa dei consolidati principi universali in tema di giustizia penale, libertà individuali e via dicendo. Ma come stanno le cose da altre parti?

Mentre la tendenza repressiva delle tante dittature risponde da sé a ogni quesito sul rapporto fra autorità e libertà, segnali inquietanti provengono da altri Paesi democratici: non va sottovalutata l’ostilità che il pragmatismo (definiamolo così) del pensiero trumpian-muskiano ostenta nei confronti di leggi e regolamenti, letti come vincoli inaccettabili all’espansione del progresso tecnologico.

L’IA è la più elevata forma di tecnologia oggi disponibile e i software ufficialmente vietati già sarebbero disponibili. Nella cautela dell’Unione europea si avvertono inoltre echi di riflessioni di stampo etico: ma sino a che punto, oggi, etica e mercato si sposano? Specie se parliamo del tema dei temi, la sicurezza.

Quanti garantisti sopravviverebbero davanti alla prospettiva di un’applicazione concreta di Minority Report? Arrestando il presunto colpevole prima che diventi tale fermeremmo, certo, un individuo tecnicamente innocente, ma vuoi mettere il guadagno in termini di sicurezza?

Alla fine di Minority Report scopriamo che anche i sensibilissimi “pre-cog” possono sbagliare. Che esiste pur sempre una residua quota di quell’autodeterminazione che siamo abituati a chiamare “libero arbitrio”. E il genere umano trionfa. Quanti di noi ne sono ancora convinti? E in quanti siamo disposti a immolarci per un insieme di principi che sono quotidianamente irrisi da tanti potenti della terra?

Ammettiamo che su dieci condanne preventive, una sia errore giudiziario. La macchina può sbagliare! Si potrebbe sempre obiettare, come fanno non pochi scienziati, che le macchine sbagliano comunque sempre meno dell’uomo. Perché sono meno condizionabili dall’ambiente, meno empatiche, meno complicate da governare. Tutti difetti che, chissà per quanto ancora, vale forse la pena di coltivare.