Un archivio consultabile online conteneva oltre 6.800 indirizzi di conversazioni condivise dagli utenti di Muse, l’assistente di intelligenza artificiale di Meta. A scoprirlo è stata Claroc, società specializzata nella sicurezza informatica, attraverso una sola ricerca.
Esaminando alcune centinaia delle pagine trovate, i ricercatori hanno letto anche informazioni bancarie e documenti aziendali riservati. Chi recuperava uno di quei collegamenti poteva aprire la pagina direttamente dal browser.
Meta, il gruppo che produce anche Facebook, Instagram e WhatsApp, ha presentato Muse l’8 settembre scorso. Il servizio può scrivere email e organizzare appuntamenti per conto dell’utente, utilizzando le applicazioni alle quali ha ricevuto accesso e ciò significa che le conversazioni possono raccogliere informazioni private, siano queste personali o professionali.
Asaf Aprozper, co-fondatore e Chief Technology Officer, di Claroc ha specificato di aver segnalato i risultati tramite il programma bug bounty (progetto tipicamente rivolto ad hacker etici e ricercatori per la segnalazione di vulnerabilità) di Meta l'8 ottobre e di aver provato a contattarli su LinkedIn, senza ricevere risposta.
Per non creare inutili allarmismi, la scoperta dei ricercatori riguardava soltanto le conversazioni con Muse che gli utenti hanno condiviso.
Il problema della condivisione
Il problema nasce dal modo in cui Muse costruisce gli indirizzi internet delle conversazioni condivise. Ogni chat riceve un collegamento che contiene il titolo della conversazione e un codice casuale, pensato per renderla difficile da trovare a chi non è in possesso dell’opportuno link.
Quando il destinatario apre quel collegamento, il dispositivo deve individuare il server di Meta che ospita la pagina e per farlo consulta il DNS, ossia il sistema che permette di trovare i siti internet a partire dai loro nomi. Il punto critico è che Muse inserisce il titolo della chat e il codice proprio nella parte dell'indirizzo che viene comunicata al DNS e alcuni servizi specializzati registrano queste informazioni e le conservano in archivi consultabili.
Di conseguenza, anche il codice che dovrebbe rendere difficile individuare una conversazione finisce in un archivio nel quale è possibile cercarlo. È questo il meccanismo sfruttato dai ricercatori di Claroc. Basta cercare negli archivi i nomi associati al dominio utilizzato da Meta per ospitare le conversazioni condivise con Muse.
La ricerca effettuata dagli specialisti di Claroc ha restituito quindi oltre 6.800 indirizzi, completi dei titoli delle chat e dei rispettivi codici. Queste informazioni permettono di ricostruire i collegamenti alle conversazioni e di aprirle con un normale browser.
Al di là di quanto si possa pensare, per effettuare una ricerca di questo tipo servono strumenti specifici disponibili online e conoscenze informatiche di base e, per leggere le pagine individuate, è sufficiente cliccare sui collegamenti.
Cosa hanno trovato i ricercatori e di chi è la responsabilità
Tra le pagine esaminate figuravano una richiesta di prestito per una piccola impresa, una relazione sui ricavi destinata all’amministratore delegato di una società, appunti per un incontro professionale riservato e un promemoria su una sospetta frode bancaria.
La responsabilità principale riguarda la progettazione della funzione di Meta. Gli utenti utilizzavano uno strumento previsto dall’assistente e potevano aspettarsi che il collegamento restasse difficile da scoprire e, invece, il modo in cui Muse creava gli indirizzi li rendeva rintracciabili e questo dà origine a una differenza che deve rimanere sempre netta. Infatti, inviare un link a una persona e permettere a un estraneo di rintracciarlo sono due situazioni distinte che tali dovrebbero rimanere.
Il 20 ottobre, dopo le richieste di chiarimento di Ars Technica, Meta ha annunciato la sospensione della funzione di condivisione e, contestualmente, Claroc ha verificato che 40 pagine prima accessibili risultavano bloccate.
Cosa imparare da questo episodio
Il caso offre una regola pratica per chi usa i servizi IA. Prima di condividere una chat, conviene controllare chi può aprire il link e in che modo questo può essere revocato.
Per contenuti riservati sono preferibili servizi che consentono l’accesso soltanto alle persone autorizzate, meglio se mediante account specifici che richiedono l’inserimento di credenziali (tipicamente nome utente e password).
È opportuno anche eliminare dal testo condiviso ogni dato sensibile quale, per esempio, dati bancari, documenti riservati e informazioni su altre persone.
In altre parole, è opportuno assumere che ogni link generato va considerato potenzialmente rintracciabile da soggetti esterni e fuori dal controllo dell'utente. Non di meno, le pagine condivise vanno eliminate quando hanno esaurito la loro utilità.