Stati Uniti, l'IA manda in prigione un uomo ma il documento è pieno di errori

NEW YORK - L’intelligenza artificiale ha sbattuto in prigione una persona, argomentando così bene l’accusa che il giudice ha confermato l’arresto senza neanche fissare una cauzione. Peccato che le undici pagine per motivare la richiesta della detenzione fossero piene di errori. La storia arriva dalla California e rappresenta un segnale inquietante su fino a quale punto gli algoritmi possono decidere la nostra vita e la nostra libertà. Kyle Kjoller, saldatore di 57 anni, è stato arrestato e tenuto in carcere senza cauzione nel Nevada County, Sierra Nevada, dopo essere accusato di aver usato armi e esplosivo nella sua proprietà. Avendo precedenti penali, Kjoller non poteva possedere armi.

Il punto è che quello che poteva apparire come un procedimento penale di semplice soluzione - uno con precedenti penali che viola la legge - è diventato un caso clamoroso che può avere un impatto su molte altre condanne. Kjoller aveva contestato la decisione del giudice e dichiarato che i reati, tutti per possesso illegale di armi, non erano così gravi per la legge statale. Nella sua abitazione gli agenti avevano trovato almeno ventitré armi e cinquantamila munizioni, giubbotti antiproiettile, silenziatori, inneschi per esplosivo.

Probabilmente anche un procuratore esordiente non avrebbe avuto problemi a giustificare la richiesta di detenzione e senza cauzione, ma la procuratrice distrettuale che aveva seguito il caso, Jesse Wilson, ha voluto presentare un documento di undici pagine in cui, citando articoli di legge e precedenti, ha argomentato come la detenzione di Kjoller fosse giustificata.

La storia ha preso una svolta inattesa: gli argomenti utilizzati dall’accusa per la richiesta di convalido dell’arresto, secondo quanto è riuscito a provare l’avvocato di Kjoller, erano pieni di errori prodotti non dalla valutazione del pubblico ministero, ma dall’intelligenza artificiale. Undici pagine con citazioni legali inesistenti o sbagliate, casi citati che in realtà non esistevano, precedenti inventati, interpretazioni sbagliate di norme e sentenze. Tutte cose che in gergo tecnico legale vengono definite “hallucinations”, cioè invenzioni o fabbricazioni create dall’IA.

E l’utilizzo del software non si è limitato al saldatore californiano: la procuratrice distrettuale Wilson aveva usato lo stesso metodo in altri quattro casi. Ma per la prima volta un pubblico ministero ha ammesso di aver impiegato la tecnologia per un atto di procedimento penale. Quando il giudice ha chiesto a Wilson se le cose fossero andate proprio così, lei ha ammesso di aver utilizzato l’algoritmo ma solo per un altro caso e non quello di Kjoller. La spiegazione non ha soddisfatto i legali dell’imputato, che hanno fatto ricorso alla Corte Suprema della California. A loro si sono uniti altri legali e ricercatori universitari che hanno lanciato l’allarme sui rischi legati all’utilizzo dell’IA per giustificare l’arresto di una persona, a prescindere dal fatto che fosse innocente o no.

Gli avvocati e i procuratori in California possono utilizzare l’IA ma i testi devono essere aderenti alla legge e non contenere argomentazioni frutto di allucinazioni. Kjoller, nonostante la battaglia legale, è stato condannato lo stesso per i suoi reati ma la causa, approdata alla Corte Suprema statale, potrebbe segnare una svolta sull’uso della tecnologia, con due conseguenze: i pubblici ministeri dovranno usare meno gli algoritmi, e nel frattempo molte condanne potrebbero essere riviste, alla ricerca di allucinazioni tecnologiche.