Italian Tech

Whistleblowing

OpenAI licenzia tre ricercatori che avrebbero rivelato informazioni sensibili

di
OpenAI licenzia tre ricercatori che avrebbero rivelato informazioni sensibili

I tre ricercatori sono stati allontanati per avere condiviso informazioni con un’organizzazione terza che si occupa di sicurezza delle IA. La notizia, però, è un’altra

3 minuti di lettura

Tre persone incaricate di studiare sicurezza e allineamento delle IA sono state licenziate da OpenAI perché avrebbero condiviso informazioni sensibili con un’organizzazione che si occupa di sicurezza delle IA.

La notizia, lanciata dal Wall Street Journal, potrebbe esaurirsi qui ed essere archiviata nello schedario della fuga di notizie e della probabile violazione di accordi di riservatezza che i dipendenti di OpenAI potrebbero avere firmato.

Tuttavia, è un caso che apre una questione di governance e induce a chiedersi quanto e quale accesso possano avere i valutatori indipendenti e dove sia situato il confine tra protezione dei segreti aziendali, collaborazione scientifica e segnalazione dei rischi.

Una lettura più approfondita del significato di questi licenziamenti non aiuta a trovare un punto di equilibrio. OpenAI affronta incidenti causati dai propri agenti e si dice disponibile a verifiche terze, salvo poi rilasciare dichiarazioni che sembrano andare nel senso opposto, sostenendo che i ricercatori allontanati hanno violato la fiducia aziendale.

Sembra prevalere la linea adottata dai dipendenti di OpenAI e Google DeepMind, secondo i quali, gli interessi delle aziende che sviluppano IA superano i reali interessi nei confronti dei rischi che si portano appresso.

Questi licenziamenti hanno il retrogusto dell’allontanamento di tre whistleblower, ossia persone che segnalano illeciti o comportamenti scorretti all’interno di un’organizzazione.

I tre ricercatori licenziati

I ricercatori sarebbero, come confermato dal WSJ, Jasmine Wang, Tomek Korbak e Mikita Balesni. OpenAI ha confermato i tre allontanamenti e ha mantenuto riservati i nomi nella propria comunicazione pubblica, così come non ha reso noto il nome dell’ente terzo con cui i tre avrebbero condiviso informazionisensibili.

I tre profili appartengono a un’area specializzata della ricerca sull’allineamento, ossia lo studio di metodi capaci di mantenere il comportamento dei sistemi avanzati coerente con gli obiettivi stabiliti dagli esseri umani. Korbak, Balesni e Wang figurano tra gli autori di uno studio del 2025 sul monitoraggio della chain of thought, la traccia testuale attraverso cui alcuni modelli espongono passaggi intermedi del ragionamento. Il lavoro descrive questa traccia come una possibile finestra di controllo per individuare segnali di comportamento rischioso e invita i laboratori a preservarne l’utilità durante l’evoluzione dei modelli.

La linea rossa dei dati riservati

Il caso tocca un punto strutturale della sicurezza delle IA di frontiera. I valutatori esterni hanno bisogno di accesso a modelli, risultati di test, procedure e dettagli tecnici sufficienti a verificare le affermazioni dei laboratori.

Parallelamente, una parte di queste informazioni riguarda proprietà intellettuale, infrastrutture, vulnerabilità e sistemi di protezione. OpenAI ha descritto questo equilibrio in un documento dedicato alle valutazioni indipendenti, sottolineando che tali collaborazioni possono prevedere accordi di riservatezza, accesso a informazioni interne e revisioni dei materiali destinati alla pubblicazione.

Un successivo playbook sulle valutazioni di terze parti ha ribadito il ruolo di controlli esterni affidabili e descrive la necessità di delimitare con precisione accessi, ambienti di prova e dati sensibili.

Il nodo, quindi, riguarda il canale attraverso il quale una verifica esterna riceve informazioni riservate. Una collaborazione formalizzata può includere materiale interno e accessi profondi ai sistemi. Una condivisione che esce dalle procedure aziendali ricade invece nelle regole disciplinari e di sicurezza del laboratorio. Le informazioni disponibili collocano gli allontanamenti in questa seconda categoria secondo OpenAI.

Il precedente di Hugging Face

Il nome di Tomek Korbak compare anche nel contesto dell’incidente di Hugging Face, uno degli episodi che hanno aumentato la pressione sui processi di sicurezza di OpenAI durante l’estate appena trascorsa.

Nel rapporto pubblicato da OpenAI il 26 agosto, l’azienda ha definito l’episodio un segnale d’allarme e ha descritto nuovi requisiti per sandbox, accesso alla rete, monitoraggio e protezione dei pesi dei modelli.

Per ricostruire il comportamento degli agenti, OpenAI ha coinvolto METR e Redwood Research in una valutazione indipendente. Korbak era il contatto tecnico di OpenAI per quel lavoro. La collaborazione fra laboratorio e valutatori esterni era quindi già parte concreta della gestione degli incidenti.

Astra e la pressione sulla sicurezza

Gli allontanamenti arrivano inoltre in una fase di maggiore cautela sullo sviluppo dei modelli più avanzati. OpenAI ha sospeso il debutto di GPT-6.1 Astra dopo valutazioni dedicate a comportamento, autorizzazioni e sicurezza. La decisione si inserisce in una sequenza di incidenti e revisioni che ha spinto l’azienda a rafforzare monitoraggio e contenimento.

Astra aveva già aperto una discussione sulla leggibilità dei processi interni dei modelli e sulla capacità dei sistemi di controllo di intercettare condotte rischiose. Questo rimanda al già citato tema del monitoraggio della chain of thought, terreno di ricerca già sondato dai tre collaboratori licenziati.

Una tensione che dura da anni

La vicenda si colloca in una storia aziendale segnata da discussioni ricorrenti sul rapporto tra velocità di sviluppo e tra commercializzazione e sicurezza.

Nel 2024, Ilya Sutskever e Jan Leike hanno lasciato OpenAI dopo avere guidato il progetto Superalignment, dedicato al controllo di sistemi più capaci degli esseri umani. Leike ha lamentato un crescente scarto tra le risorse dedicate alla sicurezza e le priorità della leadership. Oggi ci troviamo davanti a una situazione diversa, nella quale l’azienda attribuisce i licenziamenti alla gestione di informazioni sensibili e alla violazione delle procedure.

Il punto aperto

La questione supera i tre rapporti di lavoro. I laboratori di frontiera chiedono verifiche indipendenti proprio perché i rischi più difficili da misurare richiedono osservatori esterni, accesso tecnico e libertà di analisi. Gli stessi laboratori custodiscono al tempo stesso informazioni capaci di esporre infrastrutture, metodi proprietari e vulnerabilità. Il sistema funziona quando regole di accesso, indipendenza dei valutatori e obblighi di riservatezza restano compatibili.

Gli allontanamenti di Wang, Korbak e Balesni trasformano questo equilibrio in un caso concreto. OpenAI sostiene di avere applicato le proprie regole interne dopo un’indagine ma ciò non toglie che una verifica indipendente efficace richiede accesso reale, mentre la fiducia tra ricercatori, azienda e valutatori dipende da procedure capaci di rendere quell’accesso trasparente e tracciabile.

Leggi anche

© Riproduzione riservata