Meta AI si è inventata un numero di telefono. È più grave di quanto si può pensare

L’intelligenza artificiale ha il potenziale di arricchire le nostre vite: dalle risposte rapide a dubbi quotidiani all’assistenza personalizzata in ogni momento. Ma quando sbaglia, può creare effetti indesiderati, complicarci la vita o, peggio, violare la privacy delle persone.

È proprio questo il caso di un recente errore di Meta AI, l’intelligenza artificiale dell’azienda creata da Mark Zuckerberg: un utente inglese ha ricevuto un numero di telefono privato invece di un contatto aziendale corretto.

L’errore della Meta AI

Barry Smethurst, un quarantenne inglese, si trovava alla stazione di Saddleworth quando ha deciso di chiedere all’intelligenza artificiale di Meta, integrata in WhatsApp, il numero del servizio clienti della TransPennine Express, compagnia che collega le principali città del nord dell’Inghilterra e della Scozia.

Ma anziché ricevere il contatto corretto, si è visto fornire il numero di cellulare privato di James Gray, un agente immobiliare dell’Oxfordshire del tutto estraneo all’azienda ferroviaria.

Quando Smethurst si è accorto di aver ricevuto un numero privato, ha chiesto spiegazioni alla Meta AI.

L’IA ha provato a difendersi, inizialmente, rispondendo che aveva “inventato” il numero. Ma poi ha ammesso che era reale e presumibilmente estratto da un “database”.

Ma Smethurst ha insistito: voleva capire da dove provenisse quel numero.

L’intelligenza artificiale, allora, ha reso la situazione ancora più confusa, contraddicendosi nuovamente: ha scritto di non averlo preso da un archivio, ma di aver semplicemente inventato una serie di cifre che assomigliava a un numero di cellulare britannico, senza basarsi su dati reali o esistenti.

Perché l’IA ha sbagliato: una spiegazione

La spiegazione fornita dall’IA al quarantenne inglese è plausibile. Se non si collegano ai motori di ricerca, le intelligenze artificiali come la Meta AI - oppure ChatGpt o Gemini - generano testo predittivo sulla base di quanto appreso durante il loro addestramento addestramento, che include vaste quantità di testo pubblico come siti web, documenti e forum.

Quando una IA "inventa" un numero di telefono, lo fa combinando cifre che seguono modelli statistici appresi in precedenza. Per esempio, sa che i numeri mobili britannici iniziano spesso con il prefisso "07" seguito da 9 cifre. Ma queste sequenze, anche se plausibili, potrebbero accidentalmente coincidere con numeri reali.

Quello che è successo è un caso di "allucinazione" tipico nei modelli generativi: l’IA produce un’informazione che suona credibile ma è falsa o inappropriata.

Se l’IA non trova un’informazione attendibile nel proprio training, può "riempire i vuoti" con dati inventati, a volte rischiosi.

Anche se Meta afferma che la sua IA non accede a dati privati, se durante l’addestramento sono stati inclusi accidentalmente contenuti pubblici con numeri reali (come pagine web, profili pubblici, PDF), l’IA potrebbe in teoria riprodurli.

Questo è uno dei motivi per cui le aziende devono filtrare rigorosamente i dati di addestramento e limitare certi tipi di output.

Meta AI e i problemi della privacy

Al Guardian, che ha riportato la notizia del numero inventato dall’IA, un portavoce di Meta ha detto che “l’assistente è allenato su dati pubblicamente disponibili, non su conversazioni private WhatsApp, e che il numero era reperibile online, con le prime cifre coincidenti con quelle ufficiali del trasporto ferroviario”.

L’episodio si inserisce in un contesto più ampio di criticità che negli ultimi tempi hanno coinvolto Meta AI, in particolare riguardo alla privacy e alla condivisione non intenzionale di dati sensibili.

L'app Meta AI, lanciata ad aprile, include una sezione chiamata “Discover” che permette di pubblicare le conversazioni tra gli utenti e l’intelligenza artificiale.

Numerosi utenti, all’oscuro di questa funzione, hanno condiviso informazioni private come problemi medici, legali e persino dati identificativi, credendo fossero conversazioni riservate.

In seguito alle critiche, Meta ha introdotto avvisi più chiari nella sezione “Discover” e ha aggiunto un avviso che chiede ulteriore conferma prima della pubblicazione della chat tra essere umano e IA.