Växthusgasutsläpp från träning ChatGPT-3 förbrukar 50,000 XNUMX+ liter bensin. Det här är oroande, eller hur? Så låt oss idag lära oss fakta om energiförbrukningen i AI-modeller och betydelsen av Generativ AI för en mer hållbar värld.
Hur mycket energi använder ChatGPT per dag?
Energiförbrukningen för ChatGPT 3-modellen per dag är cirka 2916 kWh.
När du anger nyckelord i konversationsbaserade AI-modeller som ChatGPT (Generative Pretrained Transformer), genererar modellen, baserat på den mottagna inmatningen, ett svar som dynamiskt imiterar mänskliga typer. Denna process kräver dock tillgång till högpresterande datorresurser, inklusive kraftfulla processorer, GPU:er eller specialiserade AI-acceleratorer som TPU:er.
För att hantera storskaliga implementeringar och tillgodose stora volymer av användarinteraktioner kan GPT utnyttja distribuerade databehandlingstekniker med sina 175 miljarder parametrar för sökning. Detta förbrukar energi eftersom internet körs på servrar som är anpassade till hårdvara.
Vi bad ChatGPT själva att fastställa dess dagliga förbrukning men fick inget trovärdigt svar.
Så vi måste hitta ett sätt att anta energiförbrukningen. Efter att ha gått igenom den här forskningsrapporten krävde träningen av GPT-3-modellen motsvarande 405 års energiförbrukning från Nvidia V100 GPU:er , vilka är kända för att förbruka cirka 300 W ström . Enklare uttryckt skulle det krävas cirka 405 V100 GPU:er som arbetar samtidigt i ett år för att slutföra träningsprocessen.
Med hjälp av denna formel kan du beräkna energiförbrukningen för ChatGPT 3, vilket är ungefär 300 W (V100 effektförbrukning) * 24 timmar per dag * 365 dagar per år * 405 år = 1064 MWh.
Detta resulterade i ett utsläpp på cirka 460 ton koldioxidekvivalenter.
Med hjälp av denna kalkylator för växthusgasekvivalenser motsvarar dessa data nu
- Växthusgasutsläpp från 1,179,951 XNUMX XNUMX miles körda av ett genomsnittligt bensindrivet personfordon eller
- CO2-utsläpp från 58 hushålls energianvändning under ett år
Energiförbrukning per dag för ChatGPT 3
Energiförbrukningen för GPT 3 per dag är 300 W (V100 strömförbrukning) * 24 timmar per dag * 405 år = cirka 2916 kWh
Det är lika med 1.3 ton koldioxidekvivalenter vilket liknar CO2-utsläpp från
- 1413 pund kol brände eller
- 153,446 XNUMX smartphones laddade
Obs : Dessa siffror kan variera allt eftersom ChatGPT släpper nya versioner över tid eller så kan det ske uppdateringar av metoder och variabler.
Hur mycket energi förbrukar ChatGPT per månad
Energiförbrukningen för GPT 3 per månad kan beräknas som
300 W (V100 strömförbrukning) * 24 timmar per dag * 30 dagar (i genomsnitt) * 405 år = ungefär 87 480 kWh .
- Energianvändning av 4 bostäder under 1 år
- Detta är jämförbart med utsläppen av växthusgaser som produceras av att köra ett genomsnittligt bensindrivet personfordon i 97,013 XNUMX miles.
- Detta motsvarar de CO2-utsläpp som genereras av att förbruka 3,717 XNUMX liter diesel.
Efter att ha känt till denna information ligger intresset i att veta energiförbrukningen per fråga för Open AI ChatGPT, men det kanske inte är lämpligt att bara dividera energiförbrukningen för att träna ChatGPT (1064 MWh) med antalet frågor under en enda dag. Tränade algoritmer kan användas flera gånger under flera dagar, vilket gör det svårt att korrekt spåra antalet ChatGPT-frågor över tid.
Läs också: ChatGPTs törstiga datacenter dränerar vattenresurser
Hur mycket el eller energi förbrukar AI?
De nuvarande trenderna inom AI-energianvändning tyder på att tekniken kan förbruka upp till 29.3 TWh el årligen . Detta motsvarar den totala årliga elförbrukningen i hela Irland.
År 2027 kan den globala AI-relaterade elförbrukningen öka med 85.4–134.0 TWh årligen , främst på grund av nytillverkade servrar. Denna ökning är jämförbar med den årliga elförbrukningen i länder som Nederländerna, Argentina och Sverige.
Hur man gör Generativ AI grönare
Du kan följa dessa tips för att göra Generative AI grönare:
1. Utnyttja stora generativa modeller snarare än att skapa nya: Företag, förutom stora leverantörer eller molnleverantörer, behöver inte skapa stora modeller . Dessa företag har vanligtvis data och mycket datorkraft i molnet, så de behöver inte gå igenom besväret med att bygga dem. Detta minskar behovet av omfattande utbildning, vilket förbrukar betydande beräkningsresurser.
2. Implementera energibesparande beräkningsmetoder: Lokal bearbetning på små mikrokontroller sparar strömförbrukningen tusen gånger mer effektivt utan att överföra data till externa servrar. Använd till exempel tekniker som gleshetsregularisering eller lågprecisionsaritmetik , och TinyML för databehandling för att minska beräkningsarbetsbelastningen.
3. Använd endast stora modeller när de är viktiga: Undvik att använda onödigt stora modeller för uppgifter där mindre modeller är tillräckliga. Innan man tillgriper maskininlärning eller artificiell intelligens bör utvecklare utforska olika alternativa lösningar genom forskning och analys. Endast när en stor modell ger ett betydande värde bör den övervägas, och säkerställa att resurser används effektivt för att åtgärda problemet.
4. Var selektiv med när du använder generativ AI: Var försiktig när du använder generativ AI, särskilt för uppgifter som att skapa blogginlägg eller roliga berättelser, vilka kanske inte motiverar de stora beräkningsresurser som krävs. Undvik att använda generativa modeller för uppgifter där enklare, traditionella metoder är tillräckliga, vilket minskar onödig energiförbrukning.
5. Främja energikällor för molnleverantörer eller datacenter: Stödja initiativ för att använda förnybara energikällor för att driva AI-infrastruktur och drift, för att minimera koldioxidintensiteten från AI och programvara.
6. Återanvänd resurser: Att återanvända teknik när det är möjligt, och återvinna material för nyare tekniska komponenter som bärbara datorer och processorer, minimerar också miljöpåverkan från resursutvinning.
7. Inkludera AI-aktivitet i er koldioxidövervakning: Spåra koldioxidavtrycket i samband med era AI-aktiviteter, inklusive utbildning och inferensprocesser. Företag bör offentliggöra koldioxidövervakningsdata för att möjliggöra välgrundade beslut för kunder gällande AI-relaterade engagemang. Utsläppsberäkningar bygger på data från leverantörer och bearbetningsföretag som forskningslaboratorier och AI-tjänsteleverantörer som OpenAI.
8. Utforska smarta algoritmtekniker: Investera i forskning och utveckling av energieffektiva algoritmer för generativ AI. De vägleder programvara i tolkningen av bilder och ljud, vilket gör det möjligt för dem att få insikter. De är som recept och vägleder programvara och hårdvara som kockar respektive köksapparater. Precis som recept effektiviserar matlagningsuppgifter, optimerar effektiva algoritmer databehandling, vilket minskar arbetsbelastningen på programvaru- och hårdvarukomponenter. Ökad effektivitet minskar datorkraftsbehovet, vilket bidrar till grönare AI-metoder.
9. Investera i energi: Företag kan till exempel samarbeta med organisationer som EARTHLY för att bedöma sitt koldioxidavtryck med hjälp av branschstandarder, eller använda ett flertal paket och onlineverktyg, såsom CodeCarbon , Green Algorithms och ML CO2 Impact , vilka är tillgängliga för att uppskatta utsläpp i din kod under körning. De skulle ge anpassade förslag på strategier för koldioxidreducering, vilket gör det möjligt för företag att övervaka sin miljöpåverkan via plattformen.
Se även: Australienbaserade Nearas AI-teknik för att skydda energibolag från extremt väder
Google Sök energiförbrukning per år
Googles energianvändning ökade till 22.29 TWh år 2022, upp från 12.7 TWh år 2019.
Google har dock tagit många initiativ för att minska sin energiförbrukning. Företaget har åtagit sig att driva sin verksamhet med 100 % förnybar energi genom att investera i projekt för förnybar energi, såsom vind- och solparker och koldioxidkompensationsprojekt. För att kompensera för sina koldioxidutsläpp fokuserar företaget på att förbättra energieffektiviteten i sina datacenter och anläggningar.
Grafen nedan visar Googles energiförbrukning för åren 2018 till 2022
Vi anammar tekniska framsteg, men det är viktigt att känna till energiavtrycket hos AI-modeller som OpenAI:s ChatGPT, som hanterar miljontals frågor varje dag. Det beror på faktorer som modellens storlek, uppgifternas komplexitet och vilken hårdvara som används för beräkningar. För att skapa en hållbar värld kan man dessutom undersöka den positiva och negativa miljöpåverkan av artificiell intelligens.
