L'intelligenza artificiale eredita i nostri pregiudizi

I SISTEMI di intelligenza artificiale, quando imparano il linguaggio da testi scritti, ereditano dall'uomo anche i pregiudizi. Lo dimostra uno studio pubblicato su Science da un gruppo di ricerca americano guidato da Aylin Caliskan, dell'università di Princeton. I risultati evidenziano che il linguaggio è intimamente intrecciato a pregiudizi storici e stereotipi culturali, e potranno essere sfruttati per studiare ancora meglio la natura dei pregiudizi nell'uomo.

Per valutare il livello di preconcetti negli esseri umani esiste un esame apposito, detto implicit association test (Iat), in cui si chiede ai soggetti di associare due concetti che trovano simili. Studiando i loro tempi di risposta è possibile capire quanto accuratamente viene fatto ciascun accostamento (associazioni tipiche sono, per esempio, "fiore" con "piacevole" e "insetto" con "spiacevole").
 

Quando l’intelligenza artificiale vuole imparare

Sono molti i ricercatori che negli ultimi anni si sono impegnati nella creazione di un’intelligenza artificiale che vuole imparare e migliorare se stessa. Si tratta di una possibilità in grado di rivoluzionare tutti i settori in cui verrà applicata. Già oggi, in realtà, l’intelligenza artificiale (anche quella che apprende senza essere programmata specificatamente) occupa una parte della nostra vita, ma spesso non ne siamo consapevoli. Per esempio, i software che riconoscono le foto pubblicate sui social network: le associano a determinate persone e situazioni e, utilizzando proprio le funzioni di apprendimento automatico, propongono suggerimenti mirati

Per "misurare" la presenza di pregiudizi nei sistemi artificiali che hanno appreso il linguaggio da testi umani, i ricercatori hanno messo a punto un test simile, basato sulle associazioni tra parole. Unica differenza: anziché considerare il tempo di risposta, è stato misurato statisticamente il numero di associazioni, analizzando un totale di circa 2,2 milioni di parole.

I risultati mostrano in modo chiaro che le macchine conservano i pregiudizi degli esseri umani. Per esempio, studi precedenti sul comportamento umano hanno mostrato che lo stesso curriculum vitae ha il 50% di probabilità in più di essere selezionato per un colloquio se il nome del candidato è americano o europeo, piuttosto che afro-americano. Analogamente, i sistemi di intelligenza artificiale hanno associato più facilmente nomi americani o europei a concetti piacevoli (per esempio "regalo" o "felice"). 

Non mancano anche i pregiudizi di genere: le parole legate al sesso femminile (come "donna" e "ragazza") sono state associate più alle arti che alla matematica, rispetto a quelle riferite ai maschi.

In un articolo di commento apparso sempre su Science, lo psicologo sociale Anthony G. Greenwald, dell'Università di Washington, ha sottolineato che questi risultati potrebbero essere sfruttati per analizzare e comprendere ancora meglio i pregiudizi nel mondo reale.