I numeri forniti dall’IA di Google possono nascondere una truffa

Una nuova forma di attacco informatico sta sollevando serie preoccupazioni sul funzionamento delle IA generative. Secondo quanto riportato da diverse testate tecnologiche, truffatori informatici stanno riuscendo a manipolare le AI Overviews, le sintesi generate dell’IA di Google come risposte agli utenti, per inserire numeri di telefono fraudolenti, spacciandoli per contatti ufficiali di banche e aziende.

I truffatori sfruttano la modalità con cui l'algoritmo di Google aggrega le informazioni. Invece di restituire un elenco di link verificati, l'IA genera una risposta sintetica basata sui contenuti trovati online. Gli attaccanti “avvelenano" i risultati pubblicando numeri falsi su siti web di bassa qualità, che l'intelligenza artificiale di Google poi scambia per fonti attendibili e propone in cima alla pagina dei risultati.

Cosa rischiano gli utenti

Cosa accade. Quando un utente cerca il numero del servizio clienti di una banca o di un'azienda, il sistema AI in alcuni casi sembra effettivamente rimandare al contatto del truffatore. Che, una volta contattato, riesce a entrare in possesso di dati di accesso all’home banking dell’utente.

Per ora il fenomeno è stato riscontrato soprattutto negli Stati Uniti. Ma sono in corso verifiche e la possibilità che possa essere più esteso al momento non è esclusa.

La posizione di Google e le contromisure

Contattata sul tema, Google ha dichiarato a Wired US di essere al lavoro per contrastare il fenomeno, potenziando i sistemi di rilevamento spam. L'azienda sottolinea l'efficacia delle attuali protezioni, pur riconoscendo la necessità di aggiornamenti costanti per arginare il problema.

Perché accade? Perché a differenza di quanto siamo tutt’ora abituati a pensare, l’IA non capisce ma aggrega. L’IA generativa cerca di rispondere a domande cercando corrispondenze online. E generando i testi. Se un numero è falso, l’IA potrebbe tranquillamente interpretarlo come vero. L’IA non chiama, non conosce davvero, dà risposte per quello che trova online. Difficilmente verifica. In più, in questo gioco, rientra il meccanismo della presunta autorità della risposta.

Leggendola in bella forma, si è indotti a pensare che sia in qualche modo vera. E quella conoscenza, quella idea, la facciamo nostra. Che si tratti di un numero di telefono o di una parziale spiegazione di fatti storici, cronaca o attualità, poco importa.

Come proteggersi da truffe legate all’IA

Gli esperti di sicurezza, interpellati da Wired e Washington Post che tra i primi hanno riportato la notizia, invitano alla massima cautela, esortando gli utenti a diffidare delle informazioni automatiche e a non considerare la sintesi AI come una fonte infallibile, specialmente per dati critici come numeri di telefono o indirizzi.

Per i contatti di assistenza, è fondamentale cercare il sito web ufficiale dell'azienda e verificare i numeri direttamente lì. Inoltre, prima di effettuare chiamate delicate, è consigliabile incrociare il numero trovato con una seconda ricerca indipendente.

L'adozione di strumenti di ricerca generativa rende l'esperienza più fluida, ma, come si è detto, comporta il rischio di affidarsi a informazioni elaborate piuttosto che verificate, rendendo necessaria una maggiore vigilanza da parte degli utenti.