Le emissioni di gas serra derivanti dall'addestramento di ChatGPT-3 consumano oltre 50,000 galloni di benzina. È preoccupante, non è vero? Quindi, oggi impariamo i fatti sul consumo di energia nei modelli di IA e l'importanza dell'IA generativa per un mondo più sostenibile.
Quanta energia consuma ChatGPT al giorno?
Il consumo energetico giornaliero del modello ChatGPT 3 è di circa 2916 kWh.
Quando si inseriscono parole chiave nei modelli di intelligenza artificiale conversazionale come ChatGPT (Generative Pretrained Transformer), in base all'input ricevuto, il modello genera una risposta che imita dinamicamente i tipi di linguaggio umano. Tuttavia, questo processo richiede l'accesso a risorse di calcolo ad alte prestazioni, tra cui CPU potenti, GPU o acceleratori di intelligenza artificiale specializzati come le TPU.
Per gestire implementazioni su larga scala e far fronte a un elevato volume di interazioni utente, GPT può sfruttare tecniche di calcolo distribuito utilizzando i suoi 175 miliardi di parametri per la ricerca. Questo comporta un consumo energetico, poiché Internet si basa su server allineati all'hardware.
Abbiamo chiesto direttamente a ChatGPT di determinare il suo consumo giornaliero, ma non abbiamo ricevuto una risposta credibile.
Dobbiamo quindi trovare un modo per stimare il consumo energetico. Dopo aver esaminato questo articolo di ricerca , l'addestramento del modello GPT-3 ha richiesto l'equivalente del consumo energetico di 405 anni di GPU Nvidia V100 , che notoriamente consumano circa 300 W di potenza . In termini più semplici, sarebbero necessarie circa 405 GPU V100 in funzione simultaneamente per un anno per completare il processo di addestramento.
Utilizzando questa formula , è possibile calcolare il consumo energetico di ChatGPT 3, che è pari a 300 W (consumo di potenza V100) * 24 ore al giorno * 365 giorni all'anno * 405 anni = circa 1064 MWh.
Ciò ha comportato l'emissione di circa 460 tonnellate metriche di CO2 equivalente.
Ora, utilizzando questo calcolatore di equivalenze dei gas serra , questi dati sono equivalenti a
- Emissioni di gas serra derivanti da 1,179,951 miglia percorse da un veicolo passeggeri medio alimentato a benzina o
- Emissioni di CO2 da 58 case consumo energetico per un anno
Consumo energetico giornaliero di ChatGPT 3
Il consumo energetico giornaliero di GPT 3 è di 300 W (consumo di potenza V100) * 24 ore al giorno * 405 anni = circa 2916 kWh
È pari a 1.3 tonnellate di anidride carbonica equivalente, che è simile alle emissioni di CO2 di
- 1413 libbre di carbone bruciate o
- Ricaricati 153,446 smartphone
Nota : questi dati possono variare in quanto ChatGPT rilascia nuove versioni nel tempo o potrebbero verificarsi aggiornamenti nelle metodologie e nelle variabili.
Quanta energia consuma ChatGPT al mese?
Il consumo energetico di GPT 3 al mese può essere calcolato come
300 W (consumo di energia V100) * 24 ore al giorno * 30 giorni (in media) * 405 anni = circa 87,480 kWh .
- Consumo energetico di 4 case per 1 anno
- Questa cifra è paragonabile alle emissioni di gas serra prodotte guidando un veicolo passeggeri medio alimentato a benzina per 97,013 miglia.
- Ciò equivale alle emissioni di CO2 generate dal consumo di 3,717 galloni di carburante diesel.
Dopo aver appreso queste informazioni, l'interesse si sposta sul consumo energetico di Open AI ChatGPT per ogni query, ma potrebbe non essere consigliabile dividere semplicemente l'energia consumata per l'addestramento di ChatGPT (1064 MWh) per il numero di query in un singolo giorno. Gli algoritmi addestrati possono essere utilizzati più volte in diversi giorni, rendendo difficile tracciare con precisione il numero di query di ChatGPT nel tempo.
Leggi anche: I data center assetati di ChatGPT stanno prosciugando le risorse idriche
Quanta elettricità o energia consuma l'intelligenza artificiale?
Le attuali tendenze di consumo energetico dell'intelligenza artificiale suggeriscono che questa tecnologia potrebbe consumare fino a 29.3 TWh di elettricità all'anno . Ciò equivale al consumo annuo totale di elettricità dell'intera Irlanda.
Entro il 2027, il consumo globale di elettricità legato all'intelligenza artificiale potrebbe aumentare di 85.4-134.0 TWh all'anno , principalmente a causa dei server di nuova produzione. Questo aumento è paragonabile al consumo annuo di elettricità di paesi come i Paesi Bassi, l'Argentina e la Svezia.
Come rendere l'intelligenza artificiale generativa più ecologica
Puoi seguire questi suggerimenti per rendere l'intelligenza artificiale generativa più ecologica:
1. Sfruttare modelli generativi di grandi dimensioni anziché crearne di nuovi: le aziende, ad eccezione dei grandi fornitori o dei provider di servizi cloud, non hanno bisogno di creare modelli complessi . Queste aziende solitamente dispongono già dei dati e di una notevole potenza di calcolo nel cloud, quindi non devono affrontare la complessità della loro costruzione. Ciò riduce la necessità di un addestramento intensivo, che consuma ingenti risorse computazionali.
2. Implementare metodi computazionali a risparmio energetico: l'elaborazione locale su minuscoli microcontrollori consente un risparmio energetico mille volte più efficiente, senza la necessità di trasferire dati a server esterni. Ad esempio, è possibile utilizzare tecniche come la regolarizzazione della sparsità o l'aritmetica a bassa precisione e TinyML per l'elaborazione dei dati, al fine di ridurre il carico computazionale.
3. Utilizzare modelli di grandi dimensioni solo quando sono realmente utili: evitare di utilizzare modelli eccessivamente complessi per attività in cui modelli più piccoli sono sufficienti. Prima di ricorrere all'apprendimento automatico o all'intelligenza artificiale, gli sviluppatori dovrebbero esplorare diverse soluzioni alternative attraverso la ricerca e l'analisi. Un modello di grandi dimensioni dovrebbe essere preso in considerazione solo quando apporta un valore sostanziale, garantendo un utilizzo efficiente delle risorse per affrontare il problema in questione.
4. Siate selettivi nell'utilizzo dell'IA generativa: usate cautela nell'impiego dell'IA generativa, soprattutto per attività come la generazione di post per blog o storie divertenti, che potrebbero non giustificare le ingenti risorse computazionali richieste. Evitate di utilizzare modelli generativi per attività in cui sono sufficienti metodi tradizionali più semplici, riducendo così il consumo energetico non necessario.
5. Promuovere le fonti energetiche per i fornitori di servizi cloud o i data center: sostenere le iniziative per l'utilizzo di fonti di energia rinnovabile per alimentare l'infrastruttura e le operazioni di intelligenza artificiale, al fine di ridurre al minimo l'intensità di carbonio dell'IA e del software.
6. Riutilizzo delle risorse: Riutilizzare la tecnologia ogniqualvolta sia possibile e riciclare i materiali per i componenti tecnologici più recenti, come laptop e processori, riduce al minimo l'impatto ambientale dell'estrazione delle risorse.
7. Includi le attività di IA nel tuo monitoraggio delle emissioni di carbonio: monitora l' impronta di carbonio associata alle tue attività di IA, compresi i processi di addestramento e inferenza. Le aziende dovrebbero rendere pubblici i dati di monitoraggio delle emissioni di carbonio per consentire ai clienti di prendere decisioni informate in merito alle attività legate all'IA. Il calcolo delle emissioni si basa sui dati forniti da fornitori e aziende di elaborazione dati come laboratori di ricerca e fornitori di servizi di IA come OpenAI.
8. Esplora le tecniche degli algoritmi intelligenti: investi nella ricerca e nello sviluppo di algoritmi efficienti dal punto di vista energetico per l'IA generativa. Questi algoritmi guidano il software nell'interpretazione di immagini e audio, consentendogli di ricavarne informazioni utili. Sono come ricette che guidano il software e l'hardware, rispettivamente come chef e elettrodomestici. Proprio come una ricetta semplifica le operazioni di cottura, gli algoritmi efficienti ottimizzano l'elaborazione dei dati, riducendo il carico di lavoro sui componenti software e hardware. Una maggiore efficienza diminuisce il fabbisogno di potenza di calcolo, contribuendo a pratiche di IA più ecocompatibili.
9. Investire nell'energia: ad esempio, le aziende potrebbero collaborare con organizzazioni come EARTHLY per valutare la propria impronta di carbonio utilizzando standard di settore, oppure utilizzare numerosi pacchetti e strumenti online, come CodeCarbon , Green Algorithms e ML CO2 Impact , accessibili per stimare le emissioni all'interno del codice durante l'esecuzione. Questi strumenti fornirebbero proposte personalizzate per strategie di mitigazione del carbonio, consentendo alle aziende di monitorare il proprio impatto ambientale attraverso la piattaforma.
Consumo energetico annuo di Google Search
Nel 2022 il consumo energetico di Google è salito a 22.29 TWh , rispetto ai 12.7 TWh del 2019.
Tuttavia, Google ha intrapreso numerose iniziative per affrontare il problema del proprio consumo energetico. Si è impegnata ad alimentare le proprie attività con energia rinnovabile al 100% , investendo in progetti di energia rinnovabile come impianti eolici e solari e in progetti di compensazione delle emissioni di carbonio. Per compensare le proprie emissioni di carbonio, si sta concentrando sul miglioramento dell'efficienza energetica dei propri data center e delle proprie strutture.
Il grafico sottostante mostra il consumo energetico di Google per gli anni dal 2018 al 2022
Accogliamo con favore i progressi tecnologici, ma è fondamentale conoscere l'impronta energetica dei modelli di intelligenza artificiale come ChatGPT di OpenAI, che gestisce milioni di query ogni giorno. Questa dipende da fattori quali le dimensioni del modello, la complessità dei compiti e l'hardware utilizzato per l'elaborazione. Inoltre, per creare un mondo sostenibile, è possibile valutare l' impatto ambientale, sia positivo che negativo, dell'intelligenza artificiale.
