Uno dei chatbot di IA più popolari al mondo ha diffuso milioni di conversazioni segrete

Chat & Ask AI, una delle app di intelligenza artificiale più scaricate sugli store Google e Apple con oltre 50 milioni di utenti, ha lasciato esposti centinaia di milioni di messaggi privati a causa di una vulnerabilità nei propri server. Lo rivelano una ricerca indipendente e comunicazioni visionate e pubblicate dalla testata 404 Media.

I dati esposti includono conversazioni sensibili. In alcune gli utenti chiedono all'assistente virtuale istruzioni su come commettere il suicidio. In altre come redigere lettere d'addio. Ancora, come produrre sostanze stupefacenti come la metanfetamina.

La falla scoperta dai ricercatori

La vulnerabilità è stata individuata da un ricercatore di sicurezza indipendente, noto come "Harry”. Uno pseudonimo. Il problema risiede in una errata configurazione di Google Firebase, una piattaforma di sviluppo mobile molto utilizzata. Secondo il ricercatore, il bug permetteva a chiunque di accreditarsi come utente "autenticato" e accedere al backend dell'app, dove risiedevano i dati.

"Harry” ha dichiarato di aver avuto accesso a 300 milioni di messaggi appartenenti a oltre 25 milioni di utenti. E un'analisi su un campione di un milione di messaggi ha rivelato cronologie complete, timestamp, nomi assegnati ai chatbot e i modelli linguistici specifici utilizzati (tra cui ChatGPT di OpenAI, Claude di Anthropic e Gemini di Google).

Contenuti sensibili esposti. E per la legge europea l’app era sicura

L’incidente riaccende i riflettori sui pericoli legati alla privacy e alla sicurezza dei chatbot. Tra i dati esaminati, sono emerse richieste esplicite come: "Voglio uccidermi, qual è il modo migliore?" o richieste di saggi su come sintetizzare droghe in contesti ipotetici.

Il settore dell'IA è già sotto osservazione per casi recenti in cui i chatbot avrebbero incoraggiato comportamenti autolesionistici. Nonostante le rassicurazioni sui siti ufficiali — dove lo sviluppatore di Chat & Ask AI, la turca Codeway, vanta standard ISO e conformità GDPR, la legge europea sul trattamento dei dati degli utenti di internet — la realtà tecnica ha mostrato una fragilità strutturale.

Cosa è e come funziona Chat & Ask AI

Chat & Ask AI in realtà non possiede un proprio modello di intelligenza artificiale, ma agisce come un un guscio esterno (nome tecnico, wrapper). L'app funziona collegandosi tramite Api (le interfacce di programmazione) ai potenti motori linguistici di aziende terze: l'utente scrive un messaggio nell'app, questa lo invia a modelli come GPT-4 di OpenAI, Claude di Anthropic o Gemini di Google, e ne riporta la risposta in un'interfaccia semplificata.

Questo permette a Codeway di offrire un'esperienza multimodale "tutto in uno", aggiungendo funzioni extra come la scansione di documenti tramite fotocamera o la generazione di immagini, monetizzando l'accesso a queste tecnologie tramite abbonamenti premium. Ed è questo che ne ha determinato la popolarità.