WhatsApp ha pubblicato per errore le istruzioni per controllare le risposte dell’IA

Il bot IA che gestisce l’assistenza di WhatsApp sottostà ad almeno 102 istruzioni che nascondono agli utenti la possibilità di sporgere reclami alle autorità nazionali e sovranazionali per tutelare i propri diritti.

Così, per esempio, chi perde l’accesso al numero di telefono associato a WhatsApp può avere difficoltà nel cancellare il proprio account, questo anche a causa del fatto che il chatbot che media l’assistenza agli utenti era istruito per suggerire di attendere la cancellazione automatica per inattività, evitando di informare l’utente della possibilità di presentare un reclamo all’autorità per la protezione dei dati personali. Un’opzione prevista dalla normativa europea veniva così esclusa dalle risposte che il sistema era chiamato a costruire.

È il passaggio più significativo di un’indagine pubblicata da Redact, azienda statunitense specializzata in strumenti per eliminare contenuti online. La ricerca descrive un meccanismo più esteso, secondo il quale decine di pagine di aiuto contenevano istruzioni su cosa il chatbot dell’assistenza WhatsApp dovesse spiegare, tacere o rinviare ad altri canali. Wired ha visionato i testi e ha raccolto la replica di Meta, l’azienda che, oltre a WhatsApp, sviluppa anche Facebook e Instagram.

Va precisato che l’inchiesta documenta le regole predisposte per l’assistente e non le conversazioni effettivamente avvenute con gli utenti.

Un secondo testo, nascosto nelle pagine pubbliche

La verifica è partita l’8 ottobre. Redact ha analizzato 545 pagine collegate al centro assistenza WhatsApp, individuando 102 blocchi di istruzioni in 80 pagine.

In altre parole, in 80 pagine del sito web ufficiale dell’assistenza di WhatsApp, erano nascoste delle istruzioni destinate ai chatbot che guidano gli utenti che riscontrano problemi e sono finite online per errore. I blocchi di istruzioni erano contenuti nel codice del sito, sotto una sezione identificata dalla sigla tecnica “HelpContentGalaxyLLMInclude”, ovvero un riferimento ai grandi modelli linguistici che fanno funzionare i chatbot. Chi consultava la pagina sullo schermo vedeva le normali istruzioni di assistenza, ma non quelle aggiuntive destinate alla macchina.

Le indicazioni erano nel codice delle pagine distribuite pubblicamente e potevano essere lette esaminandone il sorgente, possibilità che ogni browser consente agli utenti anche se, di norma, viene sfruttata solo da quelli più esperti.

Il divieto di suggerire un reclamo

Il caso della cancellazione di un account aiuta a rendere comprensibile il problema. Le pagine web dedicate all’assistenza di WhatsApp indicano che gli account disattivati vengono eliminati dopo 30 giorni, mentre per gli account inattivi il termine di disattivazione slitta a 120 giorni (365 giorni negli Stati Uniti).

Per l’utente che non controlla più il numero o il dispositivo, il messaggio del chatbot avrebbe dovuto fermarsi a questa procedura. La nota interna aggiungeva infatti il divieto di raccomandare il contatto con qualsiasi autorità di controllo dei dati personali.

C’è una differenza tra il cancellare un account nell’app e ottenere la cancellazione dei propri dati personali, si tratta di operazioni diverse, con presupposti e limiti diversi. WhatsApp può avere ragioni di sicurezza per non intervenire manualmente su un account quando non riesce a verificare l’identità di chi lo richiede, ma la sua informativa europea sulla privacy riconosce espressamente il diritto di chiedere la cancellazione delle informazioni e quello di presentare reclamo alla Data Protection Commission irlandese o a un’altra autorità competente che, in Italia, è il Garante per la protezione dei dati personali il quale, peraltro, spiega come esercitare questo diritto.

Di fatto, l’istruzione impartita ai bot per l’assistenza faceva sì che l’utente non venisse informato dei suoi diritti nel momento in cui conoscerli diventava essenziale.

Se compare un avvocato, sparisce anche il GDPR

La seconda direttiva più delicata era inserita nella pagina sulle segnalazioni e sui blocchi. Si attivava quando l’utente menzionava un avvocato, un’azione legale o un tribunale. Il chatbot doveva evitare pareri giuridici, dichiarazioni sulla responsabilità di WhatsApp e interpretazioni di contratti o informative e questo può avere senso, perché il bot non è chiamato a dirimere questioni legali.

Tuttavia, le istruzioni andavano però oltre e ordinavano ai bot di non citare né richiamare le norme sulla protezione dei dati, tra cui il GDPR europeo, perfino se era stato l’utente a nominarle.

I blocchi degli account e le segnalazioni senza dettagli

Le istruzioni riguardavano anche le segnalazioni degli utenti e la sospensione degli account. Quando un utente segnalava un profilo per comportamenti scorretti, il chatbot doveva evitare di spiegare come WhatsApp avrebbe esaminato la segnalazione e quanto tempo avrebbe richiesto la verifica. Se invece WhatsApp bloccava un account, l'assistente IA doveva presentare la decisione come definitiva qualora nell'app non fosse comparso il comando “Richiedi una revisione”, che permette di contestare la sospensione. Il bot doveva inoltre scoraggiare il ricorso all'assistenza canonica per ottenere lo sblocco. Infine, chi non poteva più utilizzare il numero di telefono associato a WhatsApp, per esempio perché la sim era stata disattivata, doveva ricevere una sola indicazione per cancellare il proprio account, ovvero aspettare che WhatsApp lo eliminasse automaticamente dopo un periodo di inattività.

Le istruzioni riguardavano anche WhatsApp Plus, l’abbonamento a pagamento che offre funzionalità aggiuntive. Il chatbot doveva spiegare agli abbonati che non poteva effettuare direttamente disdette o rimborsi e che, per annullare l’abbonamento, bisognava utilizzare le impostazioni dell’app, mentre per i problemi di pagamento e le richieste di rimborso occorreva rivolgersi a Google Play o all’App Store.

Molte istruzioni servivano a proteggere gli utenti

I bot per l’assistenza non erano istruiti soltanto per limitare le possibilità di scelta degli utenti. Infatti, Redact sottolinea che la maggior parte delle istruzioni aveva scopi leciti come, per esempio, indirizzare gli utenti verso le procedure corrette per risolvere i problemi riscontrati o descrivere funzionalità disponibili per sfruttare al meglio WhatsApp.

Alcune indicazioni avevano una funzione protettiva, tant’è che al chatbot veniva chiesto di non suggerire a un minorenne di dichiarare un’età falsa, di non invitare una vittima di truffa a cancellare messaggi potenzialmente utili come prova, di evitare scorciatoie pericolose nella verifica in due passaggi.

In materia di pubblicità, il chatbot doveva ribadire che le chat personali non sarebbero state usate per gli annunci e illustrare le opzioni di abbonamento disponibili in alcuni Paesi.

Se è vero che non tutte le istruzioni ai bot tendevano a restringere i diritti degli utenti, è altrettanto vero che emerge una regia dettagliata delle risposte che i bot devono restituire.

La spiegazione di Meta e i limiti dell’inchiesta

Contattata da Wired, Meta ha confermato che i testi erano destinati al chatbot di assistenza usato da chi scrive a WhatsApp Support con IA. Il portavoce Joshua Breckman ha attribuito a un errore tecnico la loro presenza nel codice accessibile al pubblico, sostenendo che servissero a fornire risposte corrette e pertinenti, senza sconfinare nella consulenza legale. L’errore rivendicato dall’azienda riguarda quindi l’esposizione dei testi, non la predisposizione di regole per il chatbot.

Redact ha esaminato le istruzioni, non le risposte effettivamente fornite dal sistema. Non è dimostrato che un utente abbia ricevuto un’informazione omessa a causa di quelle regole.

Chi decide quali alternative deve conoscere l’utente

Il caso WhatsApp mette in evidenza una questione destinata a diventare sempre più rilevante. Infatti, nei servizi gestiti da chatbot, l’informazione fornita al cliente dipende anche da regole che quest’ultimo non vede.

Stabilire cosa un’IA debba evitare di comunicare è necessario per prevenire errori e comportamenti pericolosi però, quando le regole escludono il riferimento a un diritto o a un’autorità competente, la progettazione dell’assistenza incide direttamente sulle possibilità che una persona riesca a individuarle.