“Noi, guardiani contro l’odio su Facebook”

«Poteva andar peggio, dai», commenta Luisa sorridendo con il suo accento napoletano. «Chi segue i Paesi del Sud America ne vede di cotte e di crude. Noi invece dobbiamo intervenire quasi sempre per censurare commenti razzisti». Sergio, Fabio, Andrea e Gaia, che le siedono a fianco, annuiscono. Età diverse, dai 30 ai 40 anni, origini e formazione differenti. Ma da qualche mese sono colleghi: diventati moderatori di Facebook, a Barcellona si occupano di controllare i contenuti italiani che passano sul social network. I nomi sono di fantasia, l’azienda americana ci tiene a proteggere la loro identità da quando ad aprile una utente infuriata ha tentato di compiere una strage nella sede di YouTube togliendosi poi la vita.

«Nessuno scantinato, nessuna sala buia illuminata solo dal monitor dei computer», fa notare David Geraghty, direttore delle operazioni legate alla Community della multinazionale fondata da Mark Zuckerberg. Dopo le tante polemiche e i passi falsi compiuti da Facebook negli ultimi due anni, Geraghty ci tiene a mostrare questo centro smagliante gestito dalla tedesca Ccc (Competence Call Centre). Ha sede nella Torre Agbar, firmata dall’architetto Jean Nouvel, con uffici arredati in stile Silicon Valley: aree per lo svago, flipper, sale da pranzo con snack a disposizione, open space.

All’occorrenza perfino uno psicologo da consultare. «Gli stipendi sono più alti della media» sostiene Sergio, originario di Roma e con passato nella ristorazione, oggi manager di un team di moderatori. «I turni, 8 ore con una pausa di 50 minuti, vanno da quelli della mattina fino all’ultimo che termina alle undici di sera».

Non è l’unico centro del genere. Nel mondo ce ne sono altri cinque, per un totale di 15 mila dipendenti. Vagliano due milioni di contenuti ogni 24 ore. Mentre gli algoritmi intervengono in autonomia quando individuano un testo, un video o un’immagine sospetta, qui si entra in azione su segnalazioni degli utenti e si giudica solo il contenuto senza saper nulla del profilo di chi lo ha pubblicato per questioni di privacy. «Oltre al razzismo, c’è il bullismo», prosegue Gaia, in Spagna da due anni. «Quasi mai si tratta di violenze fisiche o verbali, spesso sono video illegittimi fatti a scuola all’insaputa di chi è stato ripreso». Ad altri va peggio. In Brasile o in Messico le violenze di strada sono all’ordine del giorno e i moderatori si trovano a dover guardare immagini scioccanti. In Europa al contrario, dalla Norvegia alla Francia fino appunto all’Italia, il razzismo è al primo posto e per fortuna sono rari i fatti di sangue. 

Facebook ha delle regole precise che cercano di imbrigliare il comportamento umano in linee guida che i moderatori sono tenuti a seguire. Tante però le eccezioni. Ci mettono davanti ad una serie di casi: facile acconsentire sulla foto della bambina nuda che corre piangendo fra i soldati americani in Vietnam, valse all’autore Nick Ut il Pulitzer nel 1973; più difficile il “meme” che prende in giro Cristiano Ronaldo, dove il calciatore esulta a torso nudo sopra la scritta “Sono il più str***o di tutti”. Non va censurata, è un personaggio pubblico e in quanto tale gli sfottò sono consentiti. I personaggi pubblici, inclusi i politici, hanno un trattamento speciale. E per certi temi cambiano anche le linee guida in base all’area geografica. Un seno scoperto non viene percepito nella stessa maniera in Europa e nei Paesi del Golfo.

“Facebook non vuol diventare arbitro della verità”, per usare le parole di David Geraghty. E così quando un partito o un membro di un governo incitano all’odio raziale, anche se in maniera palese, potrebbe non intervenire. L’equilibrio è precario fra il non prendersi responsabilità da editore e la necessità di fare qualcosa per stemperare quel che è diventata un’arma affilata di propaganda nelle mani della politica 2.0 priva di scrupoli. E ora Mark Zuckerberg ha finalmente annunciato che intende mettere mano all’algoritmo del suo social network per ridurre la popolarità di quei commenti provocatori e al limite che aumentano le polarizzazioni. A Barcellona nessuno sa ancora come intende procedere esattamente, solo che i nuovi assunti continuano ad arrivare in gran numero.