Ai, i bot sviluppano pregiudizi anche da soli

CHE PURE i bot, cioè le utenze automatizzate mosse dalle intelligenze artificiali, potessero sviluppare dei pregiudizi era già stato provato negli scorsi anni da una serie di indagini. Adesso un gruppo di ricercatori del Mit di Boston e dell'università di Cardiff ha scoperto che questi pregiudizi, i cosiddetti "bias", non solo possono essere passati da chi programma quelle intelligenze ai medesimi sistemi ma possono anche essere sviluppati in maniera del tutto autonoma. Con i bot che imparano l'uno dall'altro.Secondo il team di scienziati "gruppi di macchine autonome possono manifestare pregiudizi semplicemente identificando, copiando e imparando questo atteggiamento da un'altra macchina". Come se per combinare il danno bastasse un solo gruppo di intelligenze artificiali per così dire "distorte". Per provare la loro ipotesi i ricercatori hanno messo in piedi un gioco in cui ogni bot doveva scegliere di donare qualcosa a un altro elemento del proprio gruppo o a un altro gruppo, basandosi sulla reputazione di ogni robot e su diverse strategie del dono. Il test ha scoperto come i robot fossero diventati progressivamente pregiudizievoli contro i bot del gruppo esterno. LEGGI "So leggere i tuoi pensieri". I computer e la teoria della mente In particolare, dopo migliaia di simulazioni i robot hanno imparato nuove strategie copiandosi a vicenda sia all'interno del proprio gruppo di riferimento che attingendo alle mosse messe in campo dalla popolazione generale coinvolta nell'esperimento. L'obiettivo: i bot hanno acquisito strategie che dessero loro un buon risultato e una buona ricompensa in chiave immediata, indicando così che per sviluppare pregiudizi e altri preconcetti non serve necessariamente un'elevata capacità cognitiva. "Le nostre simulazioni mostrano che il pregiudizio è una forza della natura molto forte e può evolversi sviluppandosi anche in una popolazione virtuale a detrimento delle connessioni con gli altri" ha scritto Roger Whitaker, docente dell'ateneo di Cardiff e coautore dell'indagine. "La protezione da gruppi che agiscano in modo pregiudizievole può inavvertitamente condurre gli individui a formare ulteriori gruppi contraddistinti da un comune pregiudizio". Il risultato? Una società spezzettata e polarizzata in cui "certi pregiudizi sono duri a morire". Tranne che in diverse condizioni, quando i sottogruppi dell'esperimento risultavano più definiti. Una situazione in cui i gruppi di bot non pregiudizievoli sono stati in grado di cooperare riuscendo in qualche modo a difendersi dal "contagio".