I pro e contro delle norme sull'intelligenza artificiale

"L'intelligenza artificiale può portare all'umanità un nuovo Rinascimento. I rischi sono grandi, ma ne vale la pena". Mira Murati, 34 anni, nata in Albania, laurea in Ingegneria negli Stati Uniti, è il capo della tecnologia di OpenAI, la società americana che sta sviluppando la super intelligenza artificiale che dà pensieri e parole a ChatGpt. Dopo lo stop del Garante per la Privacy, OpenAI ha introdotto una serie di modifiche al servizio e lo ha riacceso in Italia, ma nel frattempo si moltiplicano gli allarmi sui pericoli dell'AI: dai più concreti, come disinformazione o sostituzione del lavoro umano, agli scenari distopici in cui le macchine prendono il controllo sui Sapiens. "Servono regole, ma non devono bloccare l'innovazione", dice Murati tra inglese e italiano, lingua che come molti albanesi ha imparato da bambina.

Lei ha sempre detto che ChatGpt rispettava tutte le norme europee sulla privacy. Dopo le modifiche richieste dal Garante ne è ancora convinta?

"Ho la stessa idea: eravamo e siamo conformi con le norme Ue. Ciò che abbiamo fatto è una questione di maggiore trasparenza, non di norme violate".

Avete ricevuto notifiche di procedimenti da altre autorità?

"Stiamo parlando con molti regolatori, ma si tratta di conversazioni aperte, non di procedimenti contro di noi".

Il Garante vi ha chiesto di dare la possibilità a utenti e non utenti di ChatGpt di sottrarre i loro dati personali dall'addestramento dei modelli.

"Ci sono due moduli di "opt out" (per negare i propri dati, ndr). Gli utenti possono escludersi e conservare la cronologia delle conversazioni con ChatGpt, oppure disabilitarla, grazie a una nuova funzione. Un secondo modulo per i non utenti è stato reso più accessibile. Ora tutta la procedura è più facile, ma già prima avevamo introdotto delle modifiche per dare agli utenti più controllo sui dati".

Senza quei dati è più difficile per voi migliorare ChatGpt?

"Possono essere molto utili perché ci aiutano ad "allineare" i modelli (adattarli alle aspettative di chi li usa, ndr). Ma capita di dover pensare altri modi. L'importante è rispettare ciò che gli utenti vogliono".

La Ue è la prima autorità occidentale che prova a regolare l'intelligenza artificiale. Il suo AI Act chiede alle aziende di rendere pubblici i materiali protetti da copyright usati per addestrare gli algoritmi. Lo farete?

"Stiamo ancora esaminando l'AI Act, ma ci atterremo alle leggi che verranno approvate. Proprio ora stiamo parlando con i titolari dei diritti per capire come collaborare, ma non si sa ancora".

Le regole saranno un freno allo sviluppo dell'AI o un vantaggio competitivo per l'Europa?

"Spero che non saranno un freno. Regolare l'AI è necessario, aziende e governi devono collaborare per trovare il modo migliore, per incoraggiare l'innovazione e allo stesso tempo assicurarsi che la tecnologia venga sviluppata e fornita in un modo sicuro".

Ma collaborare dove? Come? E i regolatori hanno le competenze?

"Tanto del nostro lavoro è educare la società civile, i regolatori e i legislatori in modo che capiscano da soli con che tecnologia si confrontano. La regolazione deve coinvolgere il numero più ampio possibile di attori, ma noi abbiamo condiviso alcune idee. Per esempio abbiamo proposto degli standard per tutte le aziende e la creazione di organi indipendenti, nazionali o internazionali, che controllino. È presto, ci vorrà un continuo avanti e indietro con governi e società civile".

Nel frattempo però la tecnologia corre, spinta da miliardi di investimenti. Abbiamo delle barriere per evitare di finire fuori strada?

"Sì, da parte nostra i controlli sono molti. Quando Gpt-4 (la quarta versione, ndr) era pronto abbiamo lavorato sei mesi per essere sicuri che fosse il più efficace e sicuro possibile, prima di rilasciarlo. Ci sono poi tante barriere che ne guidano l'applicazione, perché queste tecnologie sono strumenti: in sé non hanno personalità o intenzione, dipende da come li impieghi. Noi ne regoliamo l'utilizzo in una serie di contesti ad alto rischio, per esempio non puoi usarle per prendere decisioni automatiche sulla concessione del credito o sulle assunzioni, devi coinvolgere esseri umani nel processo. Ma certo, sono barriere che ci siamo imposti da soli".

Anche l'AI Act europeo identifica applicazioni ad alto rischio, più regolate. Quindi l'approccio è giusto?

"È una questione sfumata. Gpt-4 e ChatGpt non sono di per sé "ad alto rischio". Stiamo parlando di tecnologie generali, dipende da chi e come le usa: non si può certo escluderne a priori l'utilizzo in un intero ambito".

ChatGpt non nasce per dare risposte esatte, ma molti sembrano usarlo come un'alternativa a Google, o peggio a un medico. Voi con che idea lo sviluppate?

"Le persone sono in una fase di sperimentazione totale: lo usano per scrivere bozze, come assistente personale, alcuni come un coach. Lo puoi considerare un collaboratore universale, ma prendendo ciò che dice come una prima bozza, non come la risposta definitiva. Il nostro obiettivo è costruire un'AI generale che benefici l'umanità e Gpt-4 è un passo in quella direzione, perché può fare tante cose diverse e rispetto a Gpt-3 la sua capacità di ragionare è molto aumentata".

Gli utenti sono consapevoli che le risposte vanno prese con prudenza?

"Lo diciamo sempre, avvertiamo sui limiti dei modelli: alcuni li conosciamo e cerchiamo di gestirli, altri li conosciamo e non li possiamo ancora gestire, altri li stiamo scoprendo. Ma cerchiamo di portare la società con noi nel percorso".

Geoffrey Hinton, il"padrino dell'intelligenza artificiale", vede il rischio che l'AI diventi più intelligente di noi e ci sfugga di mano. Anche lei?

"Sono preoccupazioni valide, di cui parliamo da anni e parte delle ragioni per cui OpenAI è stata fondata: l'umanità sta costruendo tecnologie incredibilmente trasformative e potenti, ma comportano molti rischi che dobbiamo capire come gestire. Il potenziale però è enorme, un altro Rinascimento".

E se vedessimo i rischi troppo tardi?

"C'è questo pericolo: non abbiamo tutte le risposte. Ma ne vale la pena".