Per il progresso o per i profitti il grande dilemma dell’AI

Tutto è bene quel che finisce bene. Oppure no? Oppure: per chi? Perché è difficile dare un senso alla settimana folle di OpenAI – la società che con il suo ChatGPT è alla frontiera dell’Intelligenza artificiale – iniziata con la defenestrazione del capo azienda Sam Altman e finita con il suo ritorno a furor di popolo. Una vicenda da film che l’ha portata a un passo dall’autodistruzione, ma che parrebbe essersi conclusa nel migliore dei modi, almeno ad ascoltare le dichiarazioni festanti delle parti in causa: la prima linea di dirigenti, i super informatici che avevano minacciato di seguire in massa Altman alla corte di Microsoft, la stessa Microsoft che su OpenAI ha investito 13 miliardi di dollari e buona parte del suo futuro. Ma una vicenda che per la sua assoluta opacità lascia aperte domande decisive: la “nuova” OpenAI è più o meno attrezzata a seguire la propria missione originaria, cioè sviluppare l’AI “a beneficio di tutta l’umanità”? E la seguiranno gli altri colossi che con OpenAI competono?

Apocalittici e integrati

Perché a generare il terremoto societario pare essere stata proprio una faglia etica e filosofica, quella tra tecno-ottimisti e tecno-apocalittici. Tra chi, come il cofondatore e amministratore delegato Sam Altman spinge per accelerare lo sviluppo degli algoritmi, convinto che garantiranno all’umanità una nuova età dell’oro, e chi invece vorrebbe rallentare e maneggiare questo nuovo strumento con prudenza, nel timore che una futura possibile intelligenza artificiale generale (Agi), umana e poi oltreumana, sfugga di mano ai suoi stessi creatori. Questo – pare – temeva Ilya Sutskever, cofondatore e capo scienziato di OpenAI, e con lui altri due membri del board che ha licenziato Altman, cioè l’accademica Helen Toner e l’imprenditrice Tasha McCauley, seguaci di una corrente filosofica che si chiama Altruismo efficace.

La catena di controllo delle società

Se OpenAI stia preparando qualche nuovo salto tecnologico, nessuno è riuscito a capirlo. Dopo il blitz contro Altman il board si è limitato a dire che il dirigente non era stato «candido nelle sue comunicazioni» e che era venuta meno «la fiducia nella sua capacità di guidare l’azienda». Di sicuro Altman, uno dei volti più noti della Silicon Valley, avendo guidato il leggendario acceleratore di startup Y Combinator, nelle ultime settimane aveva moltiplicato l’attivismo. Cercava un nuovo mega finanziamento, con cui sviluppare un microchip specifico per l’AI, e aveva alluso a imminenti novità. Quali? Indiscrezioni Reuters parlano del progetto Q* (pronuncia: “Q star”), una nuova AI capace di padroneggiare la matematica, non solo il linguaggio, avvicinandosi alla “singolarità” del pensiero umano. Un pericolo di cui, prima dell’allontanamento di Altman, alcuni dipendenti avrebbero avvertito il consiglio.

Nulla è impossibile, nulla confermato. Fatto sta che una scintilla ha incendiato lo scontro culturale dentro OpenAI, mandando in cortocircuito la sua bizantina struttura societaria.

Profitto non profitto

Nel 2015, quando la tecno-cautela sull’AI era prevalente, la società era stata costruita come no profit, governata da un consiglio composto da personalità esterne che avrebbero dovuto difendere la missione – lo sviluppo etico dell’AI – senza curarsi delle implicazioni economiche. Al punto che, come lo stesso board avrebbe detto, perfino “distruggere l’azienda potrebbe essere coerente”. Nel 2019 però, per garantire a OpenAI gli enormi finanziamenti necessari, sotto alla no profit è stata creata una società a scopo di profitto, limitato ma comunque notevole, dieci volte l’investimento. È in quella società che hanno messo miliardi i grandi fondi di venture capital e poi Microsoft che si è assicurata una licenza esclusiva e perpetua sui modelli di OpenAI ma senza potere societario: il consiglio della no profit, in teoria, manteneva il controllo.

Fino a quando non l’ha imposto davvero. Forse sbagliando – come poi ha riconosciuto lo stesso Ilya Sutskever – forse accecati dal tecno-pessimismo, i membri del board hanno fatto il loro, licenziando il dirigente che non li convinceva più. Senza avvertire nessuno, anche a costo di distruggere un’azienda arrivata a valere 86 miliardi di dollari. Erano lì per quello, ma tutti gli si sono rivoltati contro: gli investitori, i dipendenti che – un po’ per amor di Altman e un po’ delle loro stock option – hanno minacciato di andarsene, Microsoft che ha subito promesso loro l’assunzione. Risultato: dopo un paio di giorni Altman è tornato ed è stato il board a essere “licenziato”. In quello nuovo per ora sono in tre: l’imprenditore Adam D’Angelo, unica conferma, Bret Taylor, già dirigente di Facebook e Salesforce, e Lawrence Summers, ex segretario al Tesoro. Tutti tecno-ottimisti. Potrebbe aggiungersi presto anche a un rappresentante di Microsoft.

Freno di emergenza

Chi ha vinto? Certo Altman, già volto globale dell’AI, riportato sul trono a furor di popolo. Forse l’ad di Microsoft Satya Nadella, che dovrebbe avere più controllo sull’azienda in cui ha investito così tanto. Di certo hanno vinto i tecno-ottimisti per vocazione e quelli per interesse, cioè i capitali della Silicon Valley. Hanno perso i tecno-pessimisti, ma resta da capire se ha perso anche una meno apocalittica tecno-prudenza, rispetto a un’innovazione che resta una “scatola nera”. Può darsi che l’idea dietro la vecchia OpenAI, affidare un freno – o un freno a mano – a persone esterne e senza conflitti di interesse, fosse velleitaria. Forse lo è diventata quando sono arrivati i miliardi. Forse i prescelti non avevano le competenze. Ma la nuova struttura non dà maggiori garanzie che il freno, se necessario, verrà usato.

Questo, a ben vedere, rende anche la vittoria dei tecno-ottimisti meno netta. Sam Altman e Microsoft in primis, ma anche gli altri colossi che corrono all’oro dell’AI, da Google a Meta, hanno passato gli ultimi mesi ad assicurare a politici e opinione pubblica che sarebbero andati avanti con prudenza. Che loro non rifiutano le regole, anzi le auspicano. E avevano convinto molti: le intese tra i grandi del G7, ma anche il recente ordine esecutivo di Biden, sono basati sull’idea che il modo migliore per regolare una tecnologia in così esponenziale evoluzione sia fare in modo che le stesse aziende si autoregolino. La crisi di OpenAI potrebbe erodere la fiducia nella loro capacità o volontà di farlo, ridando forza a chi – come l’Europa – vuole norme più stringenti. Quali, è dibattuto: il rischio è che inseguano l’innovazione senza mai raggiungerla. Ma per non rassegnarci a “cavalcare la tigre” si potrebbe cominciare da qualcosa che nella folle settimana di Open AI è mancato: la trasparenza.