Intelligenza artificiale, la startup dei 'ribelli' che parla italiano. "Siamo più etici e sicuri di ChatGPT"

C'è molta Italia nel concorrente numero 1 di ChatGPT, l'intelligenza artificiale che scrive e parla come noi. Si chiama Claude. È una nuova generazione di AI generativa, dieci volte più potente di quella attuale, che mette però al centro la sicurezza. L'etica. L'uomo. L'hanno creata due fratelli italo-americani: Dario e Daniela Amodei. Papà di Massa Marittima, mamma di Chicago. L'Italia come seconda casa. Nel 2020 sono usciti da OpenAI, sbattendo la porta (si dice), e hanno fondato Anthropic, startup di intelligenza artificiale, società di ricerca e sicurezza. Una Public Benefit Corporation su cui stanno piovendo capitali. Anthropic è considerata una delle startup più promettenti del Pianeta. Google ha investito 300 milioni a febbraio 2023. Stessa cifra investita da Spark Capital poche settimane dopo. Totale raccolto 1,3 miliardi di dollari. Valutazione superiore ai 4 miliardi.

Obiettivo: creare modelli utili, non dannosi e onesti

Lui è lo scienziato, era a capo del progetto ChatGPT-2 e ChatGPT-3 (acronimo di Generative Pre-Trained Transformer, seconda e terza generazione). Il genio. Un curriculum pazzesco. A 15 anni, già frequentava le lezioni di calcolo infinitesimale e di matematica all'Università di Berkeley. Laurea in Fisica a Stanford. Dottorato in fisica all'Università di Princeton. È stato invitato in udienza dal Papa meno di un mese fa, come uno dei più grandi esperti del mondo, a parlare di etica e intelligenza artificiale. Lei, un'umanista. Studi di letteratura, politica e musica, grande esperienza nel mondo tech. Lo segue ovunque e trasforma le sue visioni in realtà. Lui è il CEO, lei la Presidente. Hanno lavorato per cinque anni da OpenAI. Poi se ne sono andati, portandosi dietro molti colleghi. "Siamo partiti in sette, in piena pandemia nel 2020, tutti provenienti da OpenAI. Abbiamo lavorato moltissimo, con una missione: realizzare sistemi d'intelligenza artificiale generativa potenti, ma il più possibile sicuri. Fin dal giorno uno, Anthropic si è sforzata di rendere i propri modelli affidabili, seguendo il concetto delle tre acca: helpful, harmless and honest. Utili, non dannosi e onesti" spiega Daniela Amodei.

Ad Anthropic sono in 150, talenti tra i migliori del globo. Fisici, neurologi, scienziati, biologi, filosofi, laureati in materie umanistiche. "Sono indispensabili per sviluppare un pensiero critico". Squadra multidisciplinare e tecnologia all'avanguardia. "Il cuore di Anthropic - dal greco antropos, uomo - consiste nel collocare gli esseri umani al posto di guida. Noi addestriamo i nostri modelli, utilizzando svariate tecniche di sicurezza per renderli più attendibili e per comprendere come si comportano "under the hood", letteralmente sotto il cofano, ossia a livello della 'scatola nera' di dati e algoritmi". La tecnologia su cui lavorano sono modelli chiamati Large Language Model (LLM), modelli linguistici di grandi dimensioni.

Come avviene l'addestramento?

"Inserendo in reti di deep learning un'enorme massa di parole, tecniche e non, e di dati. Grazie alle capacità dei nostri scienziati, i nostri LLM vengono addestrati a prevedere la prossima parola in una frase. Questo avviene tramite milioni e milioni di esempi, miliardi di quelli che chiamiamo token. Un token può essere una lettera, uno spazio o un segno di punteggiatura. E la potenza di questi LLM consiste nel fatto che se immettiamo una massa sufficientemente vasta di dati, i risultati sono piuttosto razionali. E le risposte sono - non sempre, ma con buona probabilità - appropriate".

Sarà una tecnologia che creerà disoccupazione...

"È una tecnologia nuova, sempre più potente, in grado di aumentare la nostra creatività e produttività. Claude e altri LLM sono formidabili. Efficaci nell'aiutarci a revisionare documenti o a creare bozze iniziali. Ma abbiamo ancora bisogno dell'uomo. Un tocco di umanità è indispensabile. È vero però che la disoccupazione è un problema importante che dobbiamo monitorare. E su questo Anthropic è già al lavoro. Ci stiamo rivolgendo ai legislatori, agli enti di vigilanza e alla società civile. La domanda che stiamo facendo è: che cosa abbiamo in programma, in vista di tecnologie AI sempre più potenti?".

Che differenza c'è tra ChatGPT e Claude?

"Eh... (ride). Claude tende a elaborare output un pochino meno nocivi e, beh, è più gentile. Sembra davvero di parlare con un essere umano. Si può provare su Slack...".

Pregiudizi, sessismo, errori?

"Tutti questi modelli, ma proprio tutti, sono addestrati sulla base di dati umani, cioè su quanto scrivono le persone. Il che vuol dire che se non si interviene, inevitabilmente questi modelli rifletteranno i pregiudizi umani. I sistemi non sono perfetti, ma stiamo facendo ogni sforzo per evitare errori, razzismo, sessismo e output dannosi. Oltre ad impegnarci perché i modelli non lavorino a niente di illegale o immorale... ".

Come cercate di cambiare le cose?

"La tecnica si chiama Reinforcement Learning, ovvero apprendimento per rinforzo, con feedback umano mirato ad addestrare i modelli in modo da ridurre i preconcetti iniziali . Abbiamo messo gli esseri umani nel loop delle conversazioni a fornire un riscontro positivo o negativo. Così quando un output dimostra sessismo o razzismo, gli diciamo: 'Questa non è una risposta adeguata' o " non dovresti dare quel tipo di risposta'. Il risultato? Il metodo riduce i pregiudizi dell'84% circa".

Cosa pensi della petizione di Elon Musk per sospendere ChatGPT e del suo blocco in Italia?

"È fantastico che ci sia un dibattito pubblico. Fino a poco tempo fa, non esisteva nulla sull'impatto etico dell'intelligenza artificiale al di fuori di una ristretta cerchia di ricercatori. È necessaria una normativa che regoli ciò che è permesso e non è permesso nel settore AI. Rispettiamo gli obiettivi che il governo italiano sta cercando di promuovere. Questi sono sistemi potenti, molto utili, ma hanno limiti e incognite. Dobbiamo lavorare tutti insieme per comprendere la verità. E per un futuro migliore per tutti".