La lezione di Mr Nvidia: “Ridurre consumi e costi la prossima sfida dell’IA”

«Una mattina a colazione un collega mi parlava di un lavoro per trovare gatti su internet. Mentre mi chiedevo a chi potesse interessare ho notato che usava 16mila Gpu (unità di elaborazione grafica di un computer, ndr) e ho pensato che si potesse fare con molte meno e così gli assegnai un mio ricercatore, che ci è riuscito con 48».

Tra ricerche, calcoli di alta precisione e tecnologia, Bill Dally, chief scientist e vicepresidente senior per la ricerca di Nvidia, inserisce anche questo aneddoto, divertente sì, ma per lui «alla base di quello che si è sviluppato in Nvidia».

Il guru scientifico dell'azienda più capitalizzata al mondo lo ha raccontato come simbolo di necessità di efficienza, nella sala gremita delle Ogr di Torino per la sua lectio magistralis nel programma Csp-Ias – Institute for advanced study, promosso dall'Istituto italiano di intelligenza artificiale per l'industria (AI4I) e dalla Compagnia di San Paolo, co-ideatrice e co-organizzatrice dell'iniziativa.

Al centro della sua lezione l'evoluzione dell'hardware per il deep learning e le trasformazioni necessarie per sostenere modelli e applicazioni su larga scala.

Dally ha sottolineato come la crescita della capacità computazionale di ordini di grandezza ha permesso la sostenibilità dell'attuale intelligenza artificiale. La stessa che, ha ammesso, «noi a Nvidia usiamo tutti i giorni per essere più produttivi».

Ha citato come esempio un lavoro con Python, un linguaggio di programmazione da alto livello: «L'IA in 15 minuti ha fatto una cosa che mi avrebbe richiesto ore. Non abbiamo persone a sufficienza per fare tutto.Mi piace anche pensare che l'IA sarà utile all'istruzione, tutti gli studenti potrebbero avere un'IA che li aiuta a capire cosa li spinge ad andare avanti. Una sorta di IA-tutor che aiuta a vincere il Superbowl».

Nella lectio ha dedicato molto spazio alle sfide legate all'efficienza energetica e alla riduzione dei costi di movimento dei dati, ma anche a come grazie alla crescita esponenziale della capacità computazionale si è sviluppata l'IA moderna.

L'efficienza dei modelli è migliorata ma l'hardware resta il fattore abilitante per cui programmabilità e flessibilità diventano elementi chiave: «Negli ultimi 12 anni abbiamo migliorato la performance degli hardware di 5mila volte».

Bally ha raccontato l'evoluzione delle Gpu di Nvidia, fino all'ultima generazione, Blackwell B200, e ha parlato anche di memorie 3D e architetture disaggregate.

A fare da direttore d'orchestra della serata Fabio Pammolli, presidente di AI4I, che ha introdotto la lectio come un «rendez vous tra sviluppo delle conoscenze e sviluppo tecnologico» con la consapevolezza che «il talento attrae talento».

Al suo fianco Marco Pavone, del Comitato scientifico AI4I. Sono intervenuti, come protagonisti dell'ecosistema dell'innovazione torinese, il numero uno di Compagnia di San Paolo Marco Gilli, la presidente della Fondazione Crt Anna Maria Poggi, il rettore del Politecnico Stefano Corgnati e il leader dell'Unione industriali di Torino Marco Gay.