Le emissioni di gas serra derivanti dall'addestramento di ChatGPT-3 consumano oltre 50,000 galloni di benzina. È preoccupante, non è vero? Quindi, oggi impariamo i fatti sul consumo di energia nei modelli di IA e l'importanza dell'IA generativa per un mondo più sostenibile.
Quanta energia consuma ChatGPT al giorno?
Il consumo energetico giornaliero del modello ChatGPT 3 è di circa 2916 KWh.
Quando inserisci parole chiave nei modelli di intelligenza artificiale conversazionale come ChatGPT (Generative Pretrained Transformer), in base all'input ricevuto, il modello genera una risposta che imita dinamicamente i tipi umani. Tuttavia, questo il processo richiede l'accesso a risorse di elaborazione ad alte prestazioni, tra cui potenti CPU, GPU o acceleratori AI specializzati come le TPU.
Per gestire distribuzioni su larga scala e ospitare grandi volumi di interazioni degli utenti, GPT può sfruttare le tecniche di elaborazione distribuita dei suoi 175 miliardi di parametri per la ricerca. Ciò consuma energia perché Internet funziona su server allineati con l'hardware.
Abbiamo chiesto a ChatGPT stesso di determinare il suo consumo giornaliero ma non ho ricevuto una risposta credibile.
Quindi, dobbiamo trovare un modo per supporre il consumo energetico. Dopo aver esaminato questo documento di ricerca, l'addestramento del modello GPT-3 ha richiesto l'equivalente di 405 anni di consumo energetico da GPU Nvidia V100, che sono noti per consuma circa 300W di potenzaIn termini più semplici, ci vorrebbero circa 405 GPU V100 che lavorino simultaneamente per un anno per completare il processo di addestramento.
Utilizzando questo formula, puoi trovare il consumo energetico di ChatGPT 3, che è 300 W (consumo di potenza V100) * 24 ore al giorno * 365 giorni all'anno * 405 anni = 1064 MWh circa.
Ciò ha comportato un'emissione di circa 460 tonnellate di CO2 equivalente.
Ora, usando questo Calcolatore delle equivalenze dei gas serra, questi dati equivalgono a
- Emissioni di gas serra derivanti da 1,179,951 miglia percorse da un veicolo passeggeri medio alimentato a benzina o
- Emissioni di CO2 da 58 case consumo energetico per un anno
Consumo energetico giornaliero di ChatGPT 3
Il consumo energetico di GPT 3 al giorno è di 300 W (consumo di potenza V100) * 24 ore al giorno * 405 anni = 2916 KWh circa
È pari a 1.3 tonnellate di anidride carbonica equivalente, che è simile alle emissioni di CO2 di
- 1413 libbre di carbone bruciate o
- Ricaricati 153,446 smartphone
Note::Queste cifre potrebbero variare in quanto ChatGPT rilascia nuove versioni nel tempo o potrebbero esserci aggiornamenti nelle metodologie e nelle variabili.
Quanta energia consuma ChatGPT al mese?
Il consumo energetico di GPT 3 al mese può essere calcolato come
300 W (consumo di potenza V100) * 24 ore al giorno * 30 giorni (in media) * 405 anni = 87,480 KWh circa.
- Consumo energetico di 4 case per 1 anno
- Questa cifra è paragonabile alle emissioni di gas serra prodotte guidando un veicolo passeggeri medio alimentato a benzina per 97,013 miglia.
- Ciò equivale alle emissioni di CO2 generate dal consumo di 3,717 galloni di carburante diesel.
Dopo aver appreso queste informazioni, l'interesse risiede nel conoscere l'uso di energia di Open AI ChatGPT per query, ma potrebbe non essere consigliabile dividere semplicemente l'energia consumata per l'addestramento di ChatGPT (1064 MWh) per il numero di query in un singolo giorno. Gli algoritmi addestrati possono essere utilizzati più volte nell'arco di diversi giorni, rendendolo difficile tenere traccia con precisione del numero di query ChatGPT nel tempo.
Leggi anche: I data center assetati di ChatGPT stanno prosciugando le risorse idriche
Quanta elettricità o energia consuma l'intelligenza artificiale?
Gli attuali trend di utilizzo dell’energia da parte dell’intelligenza artificiale suggeriscono che la tecnologia potrebbe consumare fino a 29.3 TWh di energia elettrica all'annoCiò equivale al consumo annuo totale di elettricità dell'intero paese d'Irlanda.
Entro il 2027, l’uso globale di elettricità correlato all’intelligenza artificiale potrebbe aumentare del 85.4–134.0 TWh all'anno, trainato principalmente dai server di nuova fabbricazione. Questo incremento è paragonabile al consumo annuale di elettricità di paesi come i Paesi Bassi, l'Argentina e la Svezia.
Come rendere l'intelligenza artificiale generativa più ecologica
Puoi seguire questi suggerimenti per rendere l'intelligenza artificiale generativa più ecologica:
1. Sfruttare i grandi modelli generativi anziché crearne di nuovi: Le aziende, ad eccezione dei grandi fornitori o provider cloud, non è necessario creare grandi modelli. Queste aziende solitamente hanno i dati e molta potenza di calcolo nel cloud, quindi non devono passare attraverso la seccatura di costruirli. Ciò riduce la necessità di una formazione estesa, che consuma notevoli risorse di calcolo.
2. Implementare metodi computazionali per il risparmio energetico: L'elaborazione locale su microcontrollori minuscoli consente di risparmiare energia mille volte più efficientemente senza trasferire dati a server esterni. Ad esempio, utilizzare tecniche come regolarizzazione della scarsità or aritmetica di bassa precisionee TinyML per l'elaborazione dei dati al fine di ridurre il carico di lavoro computazionale.
3. Applicare il modello grande solo quando è importante: Evitare di utilizzare modelli inutilmente grandi per attività in cui sono sufficienti modelli più piccoli. Prima di ricorrere all'apprendimento automatico o all'intelligenza artificiale, gli sviluppatori dovrebbero esplorare varie soluzioni alternative attraverso la ricerca e l'analisi. Solo quando un modello di grandi dimensioni fornisce un valore sostanziale dovrebbe essere preso in considerazione, garantire che le risorse siano utilizzate in modo efficiente per affrontare il problema in questione.
4. Sii selettivo quando utilizzi l'intelligenza artificiale generativa: Siate cauti nell'impiego dell'IA generativa, specialmente per attività come la generazione di post di blog o storie divertenti, che potrebbero non giustificare le pesanti risorse computazionali richieste. Evitate di distribuire modelli generativi per attività in cui metodi più semplici e tradizionali sono sufficienti, riducendo così il consumo di energia non necessario.
5. Promuovere fonti di energia per provider cloud o data center: Sostenere iniziative volte all'utilizzo di fonti di energia rinnovabili per alimentare infrastrutture e operazioni di intelligenza artificiale, al fine di ridurre al minimo l'intensità di carbonio dell'intelligenza artificiale e del software.
6. Riutilizzare le risorse: Riutilizzare la tecnologia ogni volta che è possibile e materiali di riciclaggio per i componenti tecnologici più recenti, come computer portatili e processori, riduce al minimo anche l'impatto ambientale dell'estrazione delle risorse.
7. Includi l'attività di intelligenza artificiale nel monitoraggio del carbonio: Traccia il impronta di carbonio associati alle tue attività di IA, inclusi i processi di formazione e inferenza. Le aziende dovrebbero rendere pubblici i dati di monitoraggio del carbonio per consentire ai clienti di prendere decisioni informate in merito agli impegni correlati all'IA. Il calcolo delle emissioni si basa sui dati dei fornitori e delle aziende di elaborazione come laboratori di ricerca e fornitori di servizi di IA come OpenAI.
8. Esplora le tecniche degli algoritmi intelligenti: Investire nella ricerca e nello sviluppo di algoritmi a basso consumo energetico per l'intelligenza artificiale generativa. Guidano il software nell'interpretazione di immagini e audio, consentendogli di ricavare informazioni. Sono come ricette, guidando il software e l'hardware come chef ed elettrodomestici da cucina, rispettivamente. Proprio come la ricetta semplifica le attività di cottura, algoritmi efficienti ottimizzano l'elaborazione dei dati, riducendo il carico di lavoro su componenti software e hardware. L'efficienza migliorata riduce i requisiti di potenza di calcolo, contribuendo a pratiche di intelligenza artificiale più ecologiche.
9. Investire in energia: Ad esempio, le aziende potrebbero collaborare con organizzazioni come TERRA per valutare la propria impronta di carbonio utilizzando gli standard del settore o utilizzare numerosi pacchetti e strumenti online, come CodiceCarbon, Algoritmi verdie Impatto CO2 ML, accessibili per stimare le emissioni all'interno del tuo codice durante il runtime. Fornirebbero proposte personalizzate per strategie di mitigazione del carbonio, consentendo alle aziende di monitorare il loro impatto ambientale tramite la piattaforma.
Consumo energetico annuo di Google Search
Il consumo di energia di Google è aumentato a 22.29 TWh nell'anno 2022, rispetto ai 12.7 TWh del 2019.
Tuttavia, Google ha intrapreso numerose iniziative per affrontare il suo consumo energetico. Ha impegnata ad alimentare le sue operazioni con energia rinnovabile al 100% investendo in progetti di energia rinnovabile come parchi eolici e solari e progetti di compensazione delle emissioni di carbonio. Per compensare le sue emissioni di carbonio, si sta concentrando sul miglioramento dell'efficienza energetica dei suoi data center e delle sue strutture.
Il grafico sottostante mostra il consumo energetico di Google per gli anni dal 2018 al 2022
Accogliamo con favore i progressi tecnologici, ma è essenziale conoscere l'impronta energetica dei modelli di intelligenza artificiale come ChatGPT di OpenAI, che gestisce milioni di query ogni giorno. Dipende da fattori come le dimensioni del modello, la complessità delle attività e l'hardware utilizzato per il calcolo. Inoltre, per creare un mondo sostenibile, puoi consultare impatto ambientale positivo e negativo dell'intelligenza artificiale.
