Quelli che gongolano, e sono legioni, a ogni errore dell'intelligenza artificiale oggi hanno una cause célèbre da citare: il caso Lavanda. Lavender è infatti, così come hanno svelato i media israeliani +972 Magazine e Local Call, il nome del progetto di IA a servizio delle Israeli Defence Forces. Ovvero il programma che, in totale autonomia, aveva etichettato 37 mila palestinesi come variamente associati ad Hamas o alla Jihad Islamica, includendoli in una kill list sulla base della quale l'esercito ha compiuto molti dei suoi attacchi. Pur sapendo che il sistema sbagliava più o meno nel 10 per cento dei casi.
Soprattutto nelle prime settimane, a quanto rivelano i giornalisti che hanno parlato con almeno sei ufficiali dell'intelligence che avevano a che fare col progetto, i soldati si sono fidati quasi ciecamente (la verifica del potenziale bersaglio, prima di autorizzare il fuoco, durava il più delle volte una ventina di secondi: l'importante è che fosse maschio) delle indicazioni di Lavender. E hanno bombardato le case dei sospetti, generalmente di notte, quando erano a casa, fatalmente uccidendo donne, bambini, spesso famiglie intere. Come tutti sanno, o dovrebbero sapere, l'intelligenza artificiale sbaglia ancora spesso e volentieri. Nel caso di quella generativa gli errori vengono chiamati "allucinazioni" tanto possono essere giganteschi, fuori bersaglio. Mai gergo si è rivelato tanto appropriato.
Dalla newsletter Finalmente è Venerdì del 12 aprile 2024. Clicca qui per iscriverti, è gratis
