Bullismo contro i robot
Giulia Villoresi , di GIULIA VILLORESIDa Osaka a San Francisco, crescono aggressioni e violenze contro gli androidi. Che più ci somigliano più ci fanno paura. E scatenano l'odio della nostra tribù umana
Le persone hanno cominciato ad aggredire i robot. E la violenza di questi episodi ha attirato l'attenzione degli scienziati. A Osaka, per esempio, un gruppo di bambini ha picchiato Robovie-II, un robot commesso attivo in vari centri commerciali del Giappone; hitchBOT, l'androide autostoppista che girava l'America nell'ambito di un esperimento sociale, è stato trovato senza testa a Philadelphia; in Austria, durante una fiera hi-tech, il sex robot Samantha è stato "molestato" fino a essere rotto; a San Francisco un robot poliziotto è stato aggredito e lo stesso è successo a un altro a Mosca.
Casi simili si contano ormai a decine. E poi c'è la rete. Dove i video (per ora pochi) che ritraggono robot "bullizzati" - questo è il termine che sta prendendo piede anche nella letteratura scientifica - sono sempre più popolari, tanto che il genere ha già il suo classico: è un video della Boston…
Casi simili si contano ormai a decine. E poi c'è la rete. Dove i video (per ora pochi) che ritraggono robot "bullizzati" - questo è il termine che sta prendendo piede anche nella letteratura scientifica - sono sempre più popolari, tanto che il genere ha già il suo classico: è un video della Boston…
Le persone hanno cominciato ad aggredire i robot. E la violenza di questi episodi ha attirato l'attenzione degli scienziati. A Osaka, per esempio, un gruppo di bambini ha picchiato Robovie-II, un robot commesso attivo in vari centri commerciali del Giappone; hitchBOT, l'androide autostoppista che girava l'America nell'ambito di un esperimento sociale, è stato trovato senza testa a Philadelphia; in Austria, durante una fiera hi-tech, il sex robot Samantha è stato "molestato" fino a essere rotto; a San Francisco un robot poliziotto è stato aggredito e lo stesso è successo a un altro a Mosca.
Casi simili si contano ormai a decine. E poi c'è la rete. Dove i video (per ora pochi) che ritraggono robot "bullizzati" - questo è il termine che sta prendendo piede anche nella letteratura scientifica - sono sempre più popolari, tanto che il genere ha già il suo classico: è un video della Boston Dynamics, il colosso americano di robotica, che mostra l'ultimo prototipo, Atlas, alle prese con test di agilità. Mentre sta afferrando una scatola, un ingegnere gliela fa cadere dalle mani, lui tenta di riprenderla, l'ingegnere lo respinge con una mazza da hockey; il robot riguadagna terreno ma la scatola gli viene sottratta ancora e ancora; infine lo vediamo crollare faccia a terra, colpito alle spalle con un tubo di ferro. Alcuni utenti protestano, altri esultano, uno scrive: "Quando ci sarà la rivolta dei robot questo tizio della Boston Dynamics sarà il primo a morire".
Lo spettro dell'insurrezione è già implicito nella parola robot, mutuata dal termine ceco robota, "schiavitù", con cui il romanziere Karel ?apek descrisse negli anni Venti una legione di replicanti sfruttati per i lavori più duri. C'è forse una sorta di paura di classe - l'incubo del servo che spodesterà il padrone - dietro gli episodi di violenza?
Come spiegano i filosofi della scienza Paul Dumouchel e Luisa Damiano nel saggio Vivere con i robot (dal 18 aprile in libreria per Raffaello Cortina, pp. 240, euro 19), creare sostituti artificiali è un'idea centrale nella robotica sociale. Tuttavia, gli autori invitano ad andare oltre l'immagine di un futuro apocalittico in cui i robot hanno preso il nostro posto e di soffermarsi su quello che possono insegnarci fin d'oggi sulla natura della mente e della socialità, visto che essi "incorporano, riflettono e, allo stesso tempo, trasformano i rapporti di forza e di potere, ma anche di aiuto e di solidarietà, che esistono tra di noi". È da questa prospettiva che gli studiosi stanno esaminando il climax di violenza contro l'Intelligenza Artificiale.
Merel Keijsers, dell'Università di Canterbury, in Nuova Zelanda, è tra i pochi che oggi indagano il fenomeno del bullismo verso gli androidi. "Le persone trattano i robot come se fossero per certi versi vivi. Persino con i computer tendiamo a mostrare comportamenti sociali, come blandirli con le buone maniere. E quando interagiamo con i robot nel nostro cervello si attivano le reti neurali dell'empatia".
L'umano tende ad antropomorfizzare la macchina. Ma come reagisce se la macchina è già antropomorfa? "Qui le cose si complicano" dice Keijsers. "L'antropomorfismo infatti può crearci disagio se percepiamo un divario tra quello che il robot sembra poter fare e quello che può fare effettivamente. Per esempio: ha una bocca, ma non sa parlare". È la cosiddetta uncanny valley, la zona perturbante, un fenomeno psicologico secondo cui le nostre emozioni positive verso i robot aumentano in proporzione alla loro somiglianza all'uomo fino a un punto oltre il quale questa somiglianza comincia a suscitarci angoscia e repulsione. Il nostro cervello si allarma davanti all'incongruenza di una bocca che non sa parlare, o che non sa farlo come noi.
Pericle Salvini, ricercatore di etica della robotica al Politecnico di Losanna, ipotizza che "il nostro cervello, a furia di vedere robot, potrebbe sviluppare la capacità di identificarli subito come oggetti". Il nome di Salvini è indissolubilmente legato al fenomeno del bullismo verso i robot. "Ero in Corea del Sud per sperimentare un Daspo, il robot spazzino. Lo avevamo messo in una piazza che verso mezzogiorno si riempiva di studenti; a un certo punto dei ragazzi avevano circondato il Daspo e lo stavano studiando. Prima cauti, poi più invadenti: lo spingevano, gli bloccavano la strada. Finché sono arrivate le mosse di kung fu. È così che è nato quell'articolo". Era il 2010, per la prima volta appare il concetto di "bullismo" verso un robot: un esplicito richiamo alla psicologia tribale. Infatti, se la tendenza ad antropomorfizzare i robot ci impedisce di sentirli diversi da noi in quanto cose, i robot diventano diversi da noi in quanto membri di un'altra tribù, nemici.
I primi esperimenti di Keijsers sembrano confermare questa idea: "Nell'ostilità tra uomo e uomo" spiega "l'aggressore tende a disumanizzare la vittima per sentirsi meno in colpa. A quanto pare facciamo lo stesso con la macchina: in laboratorio le persone sono più inclini a trattare male i robot se li vedono meno capaci di pensare e sentire, e questo effetto è maggiore quanto più il robot è antropomorfo".
È davvero una buona idea, quindi, farli simili a noi? Per la neuroscienziata Agnieszka Wykowska, ricercatrice all'Istituto italiano di Tecnologia, "è probabile che il comportamento del robot conti più del suo aspetto. Specie in alcuni contesti". Un esempio: "Ci sono anziani completamente isolati socialmente che trascorrono la vita davanti alla tv" dice. "Dar loro un robot con cui parlare, che racconti storie e gli ricordi quando prendere le medicine migliorerebbe la loro qualità di vita. Ma dovrebbe essere un robot dotato di "empatia", altrimenti non funzionerebbe".
Proprio in queste settimane, tra l'altro, al Politecnico di Zurigo stanno studiando l'interazione di pazienti geriatrici, alcuni affetti da demenza, con vari dispositivi robotici. Come spiega Marcelo Ienca, ricercatore di etica della robotica coinvolto nello studio, "abbiamo cominciato a osservare anche noi episodi di violenza verso i robot; all'inizio li associavamo alla maggiore aggressività dei pazienti con demenza, ma il fenomeno potrebbe essere più complesso. Per capirlo abbiamo messo in campo dei robot dalle abilità sociali identiche, ma con sembianze differenti. Per esempio un robot orsetto".
Vedremo come andrà a finire. Intanto Ienca sta anche redigendo, insieme ad altri studiosi, un Manifesto contro il neo-luddismo, con riferimento al movimento operaio che nel XIX secolo distruggeva i macchinari industriali: "Vorremmo creare un documento condiviso a livello internazionale per prevenire l'equiparazione etico-legale dei robot all'uomo, ma anche la negazione completa dei diritti dei robot, dunque la legittimazione della violenza verso di loro. Quando un numero sempre crescente di persone verrà rimpiazzato dalle macchine l'assenza di piani dello Stato potrebbe portare a enormi tensioni sociali".
Sul Venerdì del 26 marzo 2019
Casi simili si contano ormai a decine. E poi c'è la rete. Dove i video (per ora pochi) che ritraggono robot "bullizzati" - questo è il termine che sta prendendo piede anche nella letteratura scientifica - sono sempre più popolari, tanto che il genere ha già il suo classico: è un video della Boston Dynamics, il colosso americano di robotica, che mostra l'ultimo prototipo, Atlas, alle prese con test di agilità. Mentre sta afferrando una scatola, un ingegnere gliela fa cadere dalle mani, lui tenta di riprenderla, l'ingegnere lo respinge con una mazza da hockey; il robot riguadagna terreno ma la scatola gli viene sottratta ancora e ancora; infine lo vediamo crollare faccia a terra, colpito alle spalle con un tubo di ferro. Alcuni utenti protestano, altri esultano, uno scrive: "Quando ci sarà la rivolta dei robot questo tizio della Boston Dynamics sarà il primo a morire".
Lo spettro dell'insurrezione è già implicito nella parola robot, mutuata dal termine ceco robota, "schiavitù", con cui il romanziere Karel ?apek descrisse negli anni Venti una legione di replicanti sfruttati per i lavori più duri. C'è forse una sorta di paura di classe - l'incubo del servo che spodesterà il padrone - dietro gli episodi di violenza?
Come spiegano i filosofi della scienza Paul Dumouchel e Luisa Damiano nel saggio Vivere con i robot (dal 18 aprile in libreria per Raffaello Cortina, pp. 240, euro 19), creare sostituti artificiali è un'idea centrale nella robotica sociale. Tuttavia, gli autori invitano ad andare oltre l'immagine di un futuro apocalittico in cui i robot hanno preso il nostro posto e di soffermarsi su quello che possono insegnarci fin d'oggi sulla natura della mente e della socialità, visto che essi "incorporano, riflettono e, allo stesso tempo, trasformano i rapporti di forza e di potere, ma anche di aiuto e di solidarietà, che esistono tra di noi". È da questa prospettiva che gli studiosi stanno esaminando il climax di violenza contro l'Intelligenza Artificiale.
Merel Keijsers, dell'Università di Canterbury, in Nuova Zelanda, è tra i pochi che oggi indagano il fenomeno del bullismo verso gli androidi. "Le persone trattano i robot come se fossero per certi versi vivi. Persino con i computer tendiamo a mostrare comportamenti sociali, come blandirli con le buone maniere. E quando interagiamo con i robot nel nostro cervello si attivano le reti neurali dell'empatia".
L'umano tende ad antropomorfizzare la macchina. Ma come reagisce se la macchina è già antropomorfa? "Qui le cose si complicano" dice Keijsers. "L'antropomorfismo infatti può crearci disagio se percepiamo un divario tra quello che il robot sembra poter fare e quello che può fare effettivamente. Per esempio: ha una bocca, ma non sa parlare". È la cosiddetta uncanny valley, la zona perturbante, un fenomeno psicologico secondo cui le nostre emozioni positive verso i robot aumentano in proporzione alla loro somiglianza all'uomo fino a un punto oltre il quale questa somiglianza comincia a suscitarci angoscia e repulsione. Il nostro cervello si allarma davanti all'incongruenza di una bocca che non sa parlare, o che non sa farlo come noi.
Pericle Salvini, ricercatore di etica della robotica al Politecnico di Losanna, ipotizza che "il nostro cervello, a furia di vedere robot, potrebbe sviluppare la capacità di identificarli subito come oggetti". Il nome di Salvini è indissolubilmente legato al fenomeno del bullismo verso i robot. "Ero in Corea del Sud per sperimentare un Daspo, il robot spazzino. Lo avevamo messo in una piazza che verso mezzogiorno si riempiva di studenti; a un certo punto dei ragazzi avevano circondato il Daspo e lo stavano studiando. Prima cauti, poi più invadenti: lo spingevano, gli bloccavano la strada. Finché sono arrivate le mosse di kung fu. È così che è nato quell'articolo". Era il 2010, per la prima volta appare il concetto di "bullismo" verso un robot: un esplicito richiamo alla psicologia tribale. Infatti, se la tendenza ad antropomorfizzare i robot ci impedisce di sentirli diversi da noi in quanto cose, i robot diventano diversi da noi in quanto membri di un'altra tribù, nemici.
I primi esperimenti di Keijsers sembrano confermare questa idea: "Nell'ostilità tra uomo e uomo" spiega "l'aggressore tende a disumanizzare la vittima per sentirsi meno in colpa. A quanto pare facciamo lo stesso con la macchina: in laboratorio le persone sono più inclini a trattare male i robot se li vedono meno capaci di pensare e sentire, e questo effetto è maggiore quanto più il robot è antropomorfo".
È davvero una buona idea, quindi, farli simili a noi? Per la neuroscienziata Agnieszka Wykowska, ricercatrice all'Istituto italiano di Tecnologia, "è probabile che il comportamento del robot conti più del suo aspetto. Specie in alcuni contesti". Un esempio: "Ci sono anziani completamente isolati socialmente che trascorrono la vita davanti alla tv" dice. "Dar loro un robot con cui parlare, che racconti storie e gli ricordi quando prendere le medicine migliorerebbe la loro qualità di vita. Ma dovrebbe essere un robot dotato di "empatia", altrimenti non funzionerebbe".
Proprio in queste settimane, tra l'altro, al Politecnico di Zurigo stanno studiando l'interazione di pazienti geriatrici, alcuni affetti da demenza, con vari dispositivi robotici. Come spiega Marcelo Ienca, ricercatore di etica della robotica coinvolto nello studio, "abbiamo cominciato a osservare anche noi episodi di violenza verso i robot; all'inizio li associavamo alla maggiore aggressività dei pazienti con demenza, ma il fenomeno potrebbe essere più complesso. Per capirlo abbiamo messo in campo dei robot dalle abilità sociali identiche, ma con sembianze differenti. Per esempio un robot orsetto".
Vedremo come andrà a finire. Intanto Ienca sta anche redigendo, insieme ad altri studiosi, un Manifesto contro il neo-luddismo, con riferimento al movimento operaio che nel XIX secolo distruggeva i macchinari industriali: "Vorremmo creare un documento condiviso a livello internazionale per prevenire l'equiparazione etico-legale dei robot all'uomo, ma anche la negazione completa dei diritti dei robot, dunque la legittimazione della violenza verso di loro. Quando un numero sempre crescente di persone verrà rimpiazzato dalle macchine l'assenza di piani dello Stato potrebbe portare a enormi tensioni sociali".
Sul Venerdì del 26 marzo 2019