Facebook, quando "Negri" non è razzismo e viene censurato. Nuovi interrogativi sulla moderazione social

Una mamma si rivolge a Salvini per fargli capire quanto le sue parole possano indurre incubi nei suoi figli. Una esponente della cosiddetta "sinistra a sinistra del Pd" commenta l'ondata di sdegno per lo spazio dato nella sua città a un incontro con un ex "cattivo maestro" del terrorismo rosso chiedendosi amaramente perché la stessa repulsione non investa l'attualissima presenza neofascista nelle stesse strade. Un candidato alla Camera nelle liste di Sinistra Rivoluzionaria riconosce e identifica per nome e cognome l'autrice dei versi riportati in una citazione. Cosa hanno in comune queste tre persone? La risposta più ovvia è: la politica. Ma è sbagliata, anche se la politica probabilmente ha il suo ruolo in questa strana vicenda. La risposta esatta è duplice. Tutti e tre hanno usato il termine "Negri" nei loro post su Facebook. E tutti e tre hanno visto bloccati i rispettivi profili su intervento degli amministratori del social network in attesa della rimozione dei loro post. Con la stessa motivazione: "Rimuoviamo i post che attaccano le persone in base a razza, etnia, nazionalità, religione di appartenenza, orientamento sessuale, genere o disabilità". In nessuno dei tre casi la parola messa all'indice da Facebook era stata utilizzata allo scopo di attaccare qualcuno. La signora Gabriella Nobile aveva voluto raccontare al leader leghista dei suoi due figli adottivi, additati a scuola come "negri" e atterriti all'idea di essere rispediti in Africa. Elisa Corridoni, della segreteria nazionale di Rifondazione Comunista ed esponente di Potere al popolo, scriveva della Ferrara indignata per l'arrivo di Toni Negri e invece apparentemente indifferente ai rigurgiti di estrema destra. Il pavese Mauro Vanetti aveva semplicemente scritto che lo stralcio di poesia che qualcuno aveva riportato sul suo profilo recava la firma di Ada Negri. Alla fine Facebook chiede scusa e corregge. No, il razzismo qui non c'entra. Anche nel caso della signora Nobile, il cui post è palesemente un contributo alla causa della tolleranza. E se il razzismo non c'entra, l'attenzione si sposta naturalmente sulla "qualità" del controllo che Facebook svolge sullo tsunami di post che quotidianamente sommerge il social network. La policy è stata spiegata più volte, in relazione agli innumerevoli casi di censura applicata a foto di nudo artistico, opere d'arte esplicite, messaggi di personalità schierate che nulla avevano di offensivo e persino pagine di eminenti accademici che ai loro libri avevano dato titoli volutamente provocatori e invece scambiati per incitamenti all'odio. In estrema sintesi, Facebook chiede agli utenti di segnalare i contenuti controversi, discutibili, offensivi, pericolosi. Le segnalazioni vengono prese in carico da un team internazionale di circa 14mila "esperti", a cui spetta decidere, anche in base alla legislazione del Paese dove il post è stato generato e utilizzando madrelingua in grado di decodificare alla perfezione il senso delle parole e delle immagini. Semplice, ma solo in teoria. Perché, se Facebook censura senza andare troppo per il sottile anche quanto non dovrebbe esserlo, la segnalazione si presta a diventare strumento di chi non è mosso da buone intenzioni ma usa Facebook per colpire per altre ragioni. Rispondendo alle ultime sollecitazioni, Laura Bononcini, responsabile per le Relazioni Istituzionali di Facebook Italia, ha ammesso l'errore umano. "In alcuni casi, purtroppo - scrive in una dichiarazione -, commettiamo degli errori. Il nostro team che rivede i contenuti riceve, infatti, milioni di segnalazioni alla settimana e, occasionalmente, alcuni contenuti possono venire rimossi per errore. Quando veniamo a conoscenza di errori, investighiamo immediatamente, ci scusiamo con l'utente e ripristiniamo il contenuto dove giustificato". Le tre vicende esposte, accomunate, ripetiamo, dall'uso di un'unica parola, circoscrivono il perimetro di un caso limite, per il quale sentir parlare di errore umano non suona come una spiegazione soddisfacente. Perché errare è umano, perseverare è diabolico. L'errore è ammissibile in un caso, non in tre, per post segnalati per un'unica medesima parola e a distanza di giorni l'uno dall'altro. E allora, se non è stata opera di Satana, chi ha perseverato? O meglio, chi ha deciso? Nonostante ripetute richieste, Facebook non ha voluto entrare nel merito, per cui si possono fare solo delle ipotesi. La prima riguarda la qualità dei moderatori di Facebook, l'unico asset su cui Bononcini si sofferma. Inchieste degli scorsi anni si sono focalizzate sulla moderazione in ambiente Facebook, rilevando come sia stata in genere appaltata a società esterne le cui condizioni di lavoro, secondo rivelazioni di ex dipendenti, sono al limite. La signora Bononcini oggi enfatizza l'investimento sulle risorse interne: "Sappiamo che abbiamo ancora molto da fare e per questo motivo stiamo potenziando a livello globale i team che si occupano dei contenuti che ci vengono segnalati: ad oggi, abbiamo già circa 14.000 persone che lavorano sulla sicurezza, e arriveremo a 20.000 entro la fine del 2018". Team di cui fanno parte, a detta di Facebook, persone esperte e madrelingua. Un italiano esperto e consapevole non avrebbe bloccato quei profili né rimosso quei contenuti. A meno che al madrelingua non sia richiesto di pensare, ma di limitarsi a verificare che nei contenuti segnalati vi siano parole e immagini su cui abbia ricevuto precise disposizioni a monte. In questo caso, la parola "negri". E, nel dubbio tra ignorare la pratica o procedere alla rimozione dei contenuti, opti per la seconda soluzione per eccesso di prudenza, o perché è più accettabile in un'ottica interna a Facebook scusarsi e rimettere tutto al suo posto che vedersi scoppiare tra le mani il petardo di polemiche strumentali sul mancato controllo. Un secondo ipotetico scenario è l'intervento dell'intelligenza artificiale. Ovvero, che a procedere alla rimozione dei post contenenti la parola "negri" sia stato un algoritmo e non il fattore umano. Ad oggi, la moderazione Facebook agisce in automatico in tre aree. La prima è il riconoscimento delle segnalazioni riguardanti lo stesso contenuto, evitando così al team di valutare migliaia di volte la stessa situazione. La seconda è l'identificazione e la rimozione di immagini di nudo o pornografiche già cancellate in passato perché violano gli standard della comunità Facebook. La terza riguarda il riconoscimento e il blocco di spam a fini commerciali o pornografici. Utilizzato in questo modo, l'algoritmo non si sostituisce al fattore umano ma è inteso come strumento che ne alleggerisce il compito operando una scrematura. La vicenda dei tre post rimossi per la stessa parola non può non alimentare il dubbio che la stessa scrematura automatica sia ora applicata ai termini che l'algoritmo è stato istruito a considerare inaccettabili. L'intelligenza artificiale li blocca a prescindere perché non dotata degli strumenti intellettuali di cui l'umano dovrebbe disporre per valutare le sfumature con cui quei termini vengono utilizzati. In entrambe le ipotesi, il momento che vive l'Italia, la campagna elettorale, potrebbe aver influito sulle "regole d'ingaggio" della moderazione Facebook. Se ai controllori è stata passata una lista di temi che si sapeva avrebbero infiammato il dibattito online con annesso prontuario delle parole-miccia da disinnescare, o se l'algoritmo è stato aggiornato alla stessa terminologia, ecco che il peso della politica potrebbe spiegare perché il cognome "Negri" o i "negri" da difendere dagli attacchi razzisti facciano la stessa fine. Anche su questo, Facebook ha preferito non rispondere, ferma in una regola del silenzio che rafforza quella fastidiosa sensazione di poca trasparenza in un ambiente in cui le persone riversano una buona quota delle loro esistenze e per questo si vorrebbe fosse chiaro, soprattutto in quello che vi si muove dietro. Di certo, farsi carico degli umori di un organismo globale come la comunità Facebook facendo sempre la cosa giusta e senza scontentare nessuno non è impresa facile. Si ricorda come, durante la campagna delle presidenziali Usa 2016, il social network finì nell'occhio del ciclone perché i moderatori arginavano nella sezione "news" un'alta percentuale dei contenuti favorevoli a Trump. Zuckerberg rispose alle accuse di parzialità con una mossa spiazzante: "Se non vi fidate, la moderazione sulle elezioni sarà puramente algoritmica". Il risultato fu che la sezione divenne il paradiso delle fake news. Perché al "drone" si può chiedere di inseguire e annientare una preda. Search & Destroy. Non di stanarla e poi chiedersi perché.