Quanta energia consuma l’IA? Sam Altman ha fatto i calcoli

In un recente post sul suo blog, il CEO di OpenAI Sam Altman ha scritto che ogni richiesta a ChatGpt consuma in media 0,34 wattora di elettricità (“più o meno quanto consuma un forno in poco più di un secondo”) e circa 0,000085 galloni d’acqua: “meno di un quindicesimo di quella che starebbe in un cucchiaino”.

Quando Altman parla di consumo d’acqua, si riferisce a quella utilizzata indirettamente per raffreddare i data center.

I chip che eseguono i calcoli per l’IA producono molto calore, e servono sistemi di raffreddamento per mantenerli operativi. Quell’acqua non viene “usata” dunque dall’IA, ma è necessaria al funzionamento fisico dell’infrastruttura.

Altman ha sottolineato che, col tempo, consumi e costi dovrebbero avvicinarsi sempre più a quelli dell’energia elettrica, grazie ai progressi nella tecnologia, a una maggiore efficienza dei modelli e a un’offerta di energia che sarà “abbondante a livelli radicali” nel prossimo decennio.

Cosa dicono gli studi indipendenti

Diversi studi hanno già cercato di misurare, in passato, il consumo energetico dell’IA su scala più ampia.

Una ricerca pubblicata su Joule, una rivista scientifica peer-reviewed pubblicata da Cell Press e specializzata nei temi dell’energia, stima che l’intelligenza artificiale rappresenti oggi circa il 20% del consumo globale dei data center, una quota che potrebbe salire fino al 50% entro fine 2025, raggiungendo un consumo annuo pari a quello della Svizzera.

Uno studio del 2023 dell’Università di Washington afferma che, con centinaia di milioni di query al giorno, ChatGpt può richiedere circa 1?GWh al giorno, equivalente al fabbisogno energetico di circa 33.000 abitazioni statunitensi. Se moltiplicato su base annua, si raggiungono facilmente valori dell’ordine dei 1.000?GWh, pari al bisogno energetico di un’intera nazione di piccole dimensioni.

Quanto energia serve per l’addestramento dell’IA

Uno studio del 2024 ha misurato il consumo di un nodo GPU (costituito da otto NVIDIA H100 HXG) durante l’addestramento dei modelli Llama2 e ResNet, rilevando picchi fino a 8,4 kW per nodo, con un impatto considerevole sull’infrastruttura energetica.

Si stima inoltre che l’addestramento di un grande modello linguistico come GPT?3, ad esempio, ha richiesto un consumo di energia pari a circa 1.300 megawattora (MWh), ovvero circa la stessa quantità di elettricità che consumano 130 abitazioni statunitensi in un anno.

Una scala che cambia tutto

Altman fornisce numeri utili per comprendere il singolo impatto di un chatbot molto popolare come ChatGpt, ma moltiplicandoli per miliardi di richieste al giorno, il quadro cambia radicalmente.

L’IA ha già un’impronta ambientale paragonabile a quella di interi Paesi. Oltre all’energia, cresce anche la pressione sulle risorse idriche e sulle reti elettriche.

Le aziende stanno cercando soluzioni: Microsoft sta tornando a investire in centrali nucleari per i suoi data center, mentre Google sta esplorando la possibilità di attingere energia da piccoli reattori modulari.