L’inchiesta: “Israele utilizza l’IA per individuare gli obiettivi di Hamas a Gaza. Così incrementa le morti dei civili”

Un’inchiesta di due siti d’informazione israeliani, +972Mag e Local Call, rivela che due programmi di intelligenza artificiale sono usati dall’esercito di Israele per generare una parte della lista dei bersagli che gli aerei bombardano ogni giorno dentro alla Striscia di Gaza. Il lavoro dei due siti si basa su una prima inchiesta uscita a novembre, ma grazie alle interviste con sei ufficiali dell’intelligence israeliana – che preferiscono restare anonimi – la espande con molte informazioni pubblicate per la prima volta.

I due software che generano la lista dei bersagli da colpire si chiamano “Lavanda” e “Papino dov’è?”. Il primo raccoglie una mole enorme di dati da fonti diverse, come fotografie, registri anagrafici, liste dei contatti su WhatsApp, spostamenti e altro e a partire da quella crea un elenco di individui “che probabilmente fanno parte di Hamas o della Jihad islamica”. Ecco un esempio pratico di come funziona Lavanda: se scambi messaggi con altri membri di Hamas, il tuo viso appare in un video che mostra un’operazione di Hamas (uno dei molti del 7 ottobre), il tuo telefono era in territorio israeliano il 7 ottobre, il tuo telefono era in un posto dove Hamas si addestra oppure combatte, cambi molto spesso località, dormi in posti diversi oppure il tuo profilo corrisponde a molti altri parametri che non conosciamo, il programma ti mette su una lista di uomini di Hamas. Secondo l’inchiesta, la lista aveva trentasettemila nomi.

A questo punto è chiaro a chiunque abbia fatto anche soltanto acquisti online che i risultati forniti dall’intelligenza artificiale dipendono dalle impostazioni decise dagli umani. È una questione di filtri. Quanti contatti di Hamas devi avere su WhatsApp per essere considerato di Hamas? Se il numero è “cento”, i risultati saranno pochi. Ma se il numero è “tre” i risultati saranno molti di più. Quanto dev’essere vecchia la tua ultima conversazione con Hamas? Se il filtro è “un giorno” i risultati saranno pochi. Ma se il filtro è “ultimi cinque anni” i risultati saranno molti di più. E così via.

Le fonti dell’inchiesta dicono che una squadra umana dell’intelligence ha analizzato la lista per due settimane all’inizio della campagna di bombardamento dopo il 7 ottobre e ha trovato che l’accuratezza era vicina al novanta per cento – e da quel momento la lista è stata ritenuta affidabile e il dieci per cento di errori considerato accettabile. “L’unica verifica che facevamo – dice una fonte – era controllare che il bersaglio fosse un uomo e non una donna, e ci bastava ascoltare venti secondi di conversazione”. Ogni giorno la pressione per trovare nuovi bersagli da colpire, anche al livello più basso di Hamas, era enorme, “ci urlavano contro” spiegano le fonti. L’intelligenza artificiale è stata nutrita anche con i registri della polizia, quindi – per fare un esempio – non distingue tra un poliziotto palestinese che sorveglia un camion e un combattente di Hamas.

“Papino dov’è?” sfrutta soprattutto i dati del telefono e fornisce la posizione più probabile. Quando i militari israeliani fanno collaborare i due programmi di intelligenza artificiale fra loro, ottengono una lista di persone contrassegnate con l’etichetta “appartenente a Hamas” e le loro posizioni plausibili nella Striscia di Gaza. La posizione più probabile, spiegano le fonti, è nella stragrande maggioranza dei casi l’abitazione del bersaglio. La conseguenza è che il programma fornisce in automatico agli aerei che si alzano in volo per bombardare una lista di bersagli che sono abitazioni.

E qui viene una parte cruciale dell’inchiesta. A ogni singola abitazione nella Striscia di Gaza è stato assegnato un numero identificativo e c’è una stima, aggiornata in continuazione, di quante persone e di quanti civili ci sono all’interno. I programmi di intelligenza artificiale incrociano i dati dei telefoni, dell’anagrafe, delle stime di quante persone hanno lasciato un’area di Gaza e altri dati e tentano di indovinare la presenza di civili all’interno di un appartamento che è finito sulla lista dei bersagli.

Il comando militare ha ordinato di accettare un numero di perdite civili per ogni singolo membro di Hamas pari a quindici, ma il numero è salito in certe fasi a venti – e in qualche giorno è sceso a cinque (gli Stati Uniti hanno fatto pressione per tenerlo basso). Se una persona che fa scattare l’etichetta “Hamas” di Lavanda torna a dormire a casa sua ed è un caseggiato che probabilmente contiene altre diciannove persone o meno, l’edificio è sulla lista dei bersagli immediati da bombardare.

Tra il sette ottobre e il 25 novembre (inizio della tregua di una settimana), quando ancora la popolazione di Gaza non era sfollata a Sud, la maggioranza dei quindicimila morti apparteneva agli stessi gruppi familiari, uccisi assieme nelle stesse abitazioni. Nel caso di comandanti importanti di Hamas, rivela l’inchiesta, il numero accettabile è salito fino a cento, “e non era mai successo prima”, spiega una fonte che ha deciso di parlare perché, dice, il sistema crea troppe vittime civili e “ci si ritorcerà contro”.