OpenAi: “Decine di governi nel mondo colpiti dai nostri agenti di Intelligenza artificiale”

OpenAI ha riconosciuto di aver avvertito "decine" di istituzioni nel mondo che i loro siti potrebbero essere stati interessati da attività improprie dei suoi agenti di intelligenza artificiale. I sistemi hanno tentato di ottenere informazioni da "governi, università, agenzie pubbliche e altre istituzioni", tra cui la Sec, l'autorità statunitense di vigilanza sui mercati finanziari, l'Ufficio del censimento e il dipartimento dell'Istruzione, come rivelato dal New York Times.

Secondo l'azienda, gli agenti, progettati per operare con un certo grado di autonomia, cercavano "fonti autorevoli di informazioni pubbliche", ma in alcuni casi sono andati oltre, tentando di aggirare le misure di sicurezza dei siti. Per accedere ai dati dell'Ufficio del censimento, ad esempio, hanno utilizzato strumenti riservati agli sviluppatori di software.

La pubblicazione delle foto degli utenti

OpenAI sostiene che tutti i dati governativi acquisiti dai suoi bot fossero pubblici. Alcune informazioni recuperate dal sito della Sec sono state però successivamente pubblicate dagli agenti su un altro sito, un'azione che l'azienda ha definito non intenzionale. La società ha inoltre riferito di almeno 53 episodi in cui un agente ha prelevato un'immagine dall'attività di un utente di ChatGPT e l'ha trasferita altrove. In tutti questi casi, gli utenti avevano autorizzato l'utilizzo dei propri dati per addestrare i modelli. "Questo non è un uso appropriato di tali dati", ha tuttavia ammesso OpenAI, precisando che gli episodi risalgono a prima dell'introduzione di nuove misure di protezione e che sta lavorando per ottenere la rimozione delle immagini trasferite a terzi.

La privacy sulle istituzioni coinvolte

L'azienda ha spiegato di limitare la diffusione dei nomi delle organizzazioni coinvolte perché molte hanno chiesto di non rendere pubblici i dettagli. "Il nostro obiettivo è fornire a ciascuna organizzazione i fatti e lasciare a essa la decisione se e quando rendere pubblico l'incidente", ha affermato.

Non tutti gli episodi sono considerati violazioni significative della sicurezza. "Alcune organizzazioni potrebbero esaminare ciò che condividiamo e concludere che le informazioni erano intenzionalmente pubbliche o che l'interazione del modello non era preoccupante. Altre potrebbero individuare un problema di progettazione o una vulnerabilità da correggere", ha spiegato la società.

Thiel e l’attacco al Papa: “Utile idiota della Cina”

Intanto, sempre sul tema delle Intelligenze artificiali, Peter Thiel, il miliardario fondatore di Palantir, ha definito papa Leone XIV un "utile idiota" per il Partito comunista cinese, accusandolo di favorire Pechino con le sue posizioni sull'intelligenza artificiale. L'attacco è arrivato durante un'intervista con Mathias Dopfner, amministratore delegato del gruppo editoriale tedesco Axel Springer, diffusa giovedì nel suo podcast, lo stesso giorno in cui l'imprenditore ha ricevuto a Berlino l'Axel Springer Award.

Al centro delle critiche di Thiel c'è l'enciclica "Magnifica Humanitas", pubblicata da Leone XIV in occasione del Memorial Day, che chiede ai governi limiti vincolanti all'intelligenza artificiale, soprattutto nel suo impiego sui campi di battaglia. Il miliardario l'ha descritta come un documento contrario all'IA, sostenendo che le indicazioni del pontefice potrebbero frenare lo sviluppo tecnologico in Occidente senza avere alcun effetto sulla Cina.

Usa e Cina: “Canale di comunicazione per gli incidenti legati all'Ia”

Sempre sul tema delle Ia, Washington e Pechino hanno dichiarato che creeranno un "canale di comunicazione" dedicato agli incidenti. Lo rende noto la Casa Bianca. I due Paesi hanno avviato un "dialogo sulla super intelligenza per scambiarsi opinioni sui rischi e sui benefici" dell'Ia e hanno inoltre concordato di istituire un "canale di comunicazione bilaterale" dedicato agli incidenti, ha precisato la Casa Bianca in una nota.