Intelligenza artificiale, parte la rincorsa a Nvidia per conquistare un posto al sole nell’industria dei chip

Lo scacchiere dell’intelligenza artificiale (IA) ha avuto finora un chiaro vincitore economico: Nvidia, il leader dei chip usati per questa tecnologia. Settantasette miliardi di dollari i ricavi del primo trimestre 2024. Ma il mercato dell’IA, a tutto tondo, attira crescenti interessi da più parti e quindi il risiko delle aziende è soggetto a forti turbolenze. Si sviluppano startup che vogliono fare concorrenza a Nvidia, con i primi chip davvero specializzati nell’IA generativa (come ChatGpt) e al tempo stesso le Big tech presentano pure i prodotti alternativi a quelli del leader.

Nvidia, dal canto suo, sa difendersi bene e non sarà facile scalzarla dalla posizione dominante. Al tempo stesso, va al contrattacco e comincia a invadere il mercato di quelle Big tech, offrendo servizi cloud agganciati ai servizi di intelligenza artificiale.

Insomma, ne vedremo delle belle: innovazione, scontri al vertice e nascita di alternative che faranno bene alla dinamicità del mercato.

Le startup dei chip AI

Le principali novità vengono da tre startup, californiane come Nvidia. Ricordiamo che i suoi chip sono nati per fare la grafica dei videogame, mentre le startup vogliono specializzarsi in chip per addestrare i grandi modelli di IA generativa. Obiettivo è superare una inefficienza intrinseca presente nelle gpu – i chip grafici – usati per l’IA. I moderni modelli di IA funzionano con un gran numero di chip interconnessi, per la memoria e l’elaborazione dati. Lo spostamento rapido dei dati tra loro è fondamentale per le prestazioni. Quando si addestrano modelli ai molto grandi, alcuni core (parti) della gpu possono rimanere inattivi anche per metà del tempo in attesa di dati.

Cerebras, per ovviare al problema, ha sviluppato un approccio rivoluzionario con il suo chip CS-3, il più grande al mondo, quanto un piattino. Questa soluzione riduce la complessità delle connessioni tra più chip, migliorando l'efficienza energetica e le prestazioni. Il chip monolitico di Cerebras consente connessioni interne tra i core molto più veloci rispetto alle connessioni tra gpu separate, riducendo il consumo energetico e aumentando la velocità di elaborazione.

Groq ha adottato un approccio diverso con le sue “Lpu” (la “l” sta per linguaggio, a indicare la loro specializzazione). Sono ottimizzate per eseguire modelli linguistici di grandi dimensioni (appunto quelli alla base di ChatGpt e simili) con rapidità. Questi chip non solo contengono memoria propria ma fungono anche da router, trasmettendo dati tra le Lpu interconnesse. Grazie a un software di instradamento intelligente, le Lpu di Groq eliminano le variazioni di latenza, permettendo al sistema di funzionare in modo sincrono e aumentando l'efficienza complessiva.

MatX si concentra invece sulla semplificazione dei chip, eliminando le caratteristiche non necessarie per questi modelli. Le gpu tradizionali infatti contengono circuiti che servono anche per la grafica, che però non servono ai modelli AI. Rimuovendo questi elementi superflui, i chip di MatX migliorano le prestazioni eseguendo un numero minore di operazioni, ma in modo più efficiente.

“Il problema di questi approcci così specializzati è che sono una scommessa sul futuro. A differenza delle gpu servono solo per gli attuali large language models, ma la scommessa è fallita se la tecnologia cambia in futuro rendendo non più adatti o utili questi approcci”, spiega Antonio Cisternino, responsabile informatico presso l’università di Pisa, dove ha creato Sybilla, una “chatgpt” made in Italy.

Altre startup in questo settore sono Hailo, con sede in Israele, Taalas, con sede a Toronto, Tenstorrent, un'azienda americana che utilizza l'architettura open-source risc v per costruire chip ai, e Graphcore. Quest’ultima è la sola europea: un'azienda britannica che però è in procinto di essere venduta a SoftBank, un conglomerato giapponese.

Le big tech

Pure le grandi aziende tecnologiche stanno sviluppando i propri chip AI, ma in formato gpu, quindi più tradizionali. Obiettivo, ridurre la loro dipendenza da Nvidia e aumentare i profitti.

Google ha creato i Tensor Processing Units (TPU) disponibili come servizio di cloud computing. L'ultima versione è stata presentata il 14 maggio. Amazon, Meta, Microsoft stanno progettando chip AI personalizzati per le proprie piattaforme cloud. Sono in gioco anche Amd e Intel, i colossi dei semiconduttori, che non possono permettersi di perdere quest’occasione: accelerano sulla produzione chip simili alle gpu.

La società di analisi del settore TechInsights ha stimato qualche giorno fa che Google diventerà il terzo designer di chip per data center nel 2023, dopo Nvidia e Intel. Microsoft ha recentemente dichiarato che offrirà ai clienti del cloud computing l'accesso ai chip AI di AMD, offrendo loro un'alternativa a Nvidia.

La risposta di Nvidia

Gli esperti concordano che scalzare Nvidia dal podio o anche solo rubarle molte quote di mercato sarà difficile.

Hans Mosesman, analista di Rosenblatt Securities, stima in una nota che Nvidia dovrebbe perdere quote di mercato nella percentuale di chip AI prodotti a livello mondiale a causa della pressione concorrenziale. Tuttavia, secondo Mosesman, è probabile che l'azienda mantenga e addirittura aumenti la sua quota complessiva nel panorama dell'AI, grazie alle iniziative che sta portando avanti per espandere la sua presenza in altri settori dell'informatica e del software.

Per prima cosa, Nvidia si è trincerata dietro un ecosistema software-hardware integrato. Il software di Nvidia per la programmazione delle sue gpu, noto come Cuda, è uno standard industriale di fatto.

Le startup avranno successo solo se riusciranno a convincere i programmatori di AI a modificare il loro codice per farlo funzionare sui loro nuovi chip. Attività costosa e complessa.

Al tempo stesso Nvidia sta rispondendo agli attacchi con nuove generazioni di chip, come i prossimi Blackwell, e ampliando la propria presenza nei data center. Jensen Huang, ceo di Nvidia, ha sottolineato l'importanza di costruire fabbriche di intelligenza artificiale su larga scala, sfruttando l'energia disponibile in diverse regioni del mondo.

Nvidia mira, come evidenziato in occasione dell’ultima trimestrale, ad ampliare i mercati dove opera. Finora, com’è noto, il suo business è stato vendere gpu. A comprarle sono aziende che le usano per addestrare modelli o per offrire servizi di IA. Oppure (Microsoft, Amazon, Google) le aziende che le mettono nei propri datacenter cloud (a disposizione di utenti che vogliono creare e offrire prodotti di IA). Nvidia intende ora crescere nell’offerta cloud computing, con 9 miliardi di euro in investimento, e così servire più direttamente gli utenti finali. Il risiko si complica, quindi, con più attori in gioco e più aziende interessate a controllare tutti gli elementi base del nuovo mercato dell’intelligenza artificiale.