Växthusgasutsläpp från träning ChatGPT-3 förbrukar 50,000 XNUMX+ liter bensin. Det här är oroande, eller hur? Så låt oss idag lära oss fakta om energiförbrukningen i AI-modeller och betydelsen av Generativ AI för en mer hållbar värld.
Hur mycket energi använder ChatGPT per dag?
Energianvändningen för ChatGPT 3-modellen per dag är runt 2916KWh.
När du anger nyckelord i Conversational AI-modeller som ChatGPT (Generative Pretrained Transformer), baserat på mottagen input, genererar modellen ett svar som dynamiskt efterliknar mänskliga typer. Dock detta process kräver tillgång till högpresterande datorresurser, inklusive kraftfulla CPU:er, GPU:er eller specialiserade AI-acceleratorer som TPU:er.
För att hantera storskaliga implementeringar och tillgodose stora volymer av användarinteraktioner kan GPT utnyttja distribuerade datortekniker för sina 175 miljarder parametrar för sökning. Detta förbrukar energi eftersom Internet körs på servrar som är anpassade till hårdvara.
Vi bad ChatGPT sig att bestämma dess dagliga konsumtion men fick inget trovärdigt svar.
Så vi måste hitta ett sätt att anta energiförbrukningen. Efter att ha gått igenom detta uppsats, utbildning av GPT-3-modellen krävde motsvarande 405 års energiförbrukning från Nvidia V100 GPU, som är kända för förbrukar cirka 300W ström. I enklare termer skulle det ta ungefär 405 V100 GPU:er som arbetar samtidigt under ett år för att slutföra utbildningsprocessen.
Använda detta formeln, kan du hitta energiförbrukningen för ChatGPT 3, vilket är 300W (V100 energiförbrukning)*24 timmar per dag * 365 dagar per år * 405 år = 1064 MWh ungefär.
Detta resulterade i ett utsläpp på ca 460 ton CO2-ekvivalenter.
Nu använder du detta Kalkylator för växthusgasekvivalenser, dessa data motsvarar
- Växthusgasutsläpp från 1,179,951 XNUMX XNUMX miles körda av ett genomsnittligt bensindrivet personfordon eller
- CO2-utsläpp från 58 hushålls energianvändning under ett år
Energiförbrukning per dag för ChatGPT 3
Energianvändningen för GPT 3 per dag är 300W (V100 förbrukning av ström)*24 timmar per dag * 405 år = 2916 kWh cirka
Det är lika med 1.3 ton koldioxidekvivalenter vilket liknar CO2-utsläpp från
- 1413 pund kol brände eller
- 153,446 XNUMX smartphones laddade
Anmärkningar: Dessa siffror kan variera eftersom ChatGPT släpper nya versioner över tid eller så kan det finnas uppdateringar av metoder och variabler.
Hur mycket energi förbrukar ChatGPT per månad
Energiförbrukningen för GPT 3 per månad kan beräknas som
300W(V100 energiförbrukning)*24 timmar per dag *30 dagar (i genomsnitt) * 405 år = 87,480 kWh ungefär.
- Energianvändning av 4 bostäder under 1 år
- Detta är jämförbart med utsläppen av växthusgaser som produceras av att köra ett genomsnittligt bensindrivet personfordon i 97,013 XNUMX miles.
- Detta motsvarar de CO2-utsläpp som genereras av att förbruka 3,717 XNUMX liter diesel.
Efter att ha känt till denna information ligger intresset i att veta Open AI ChatGPT energianvändning per fråga, men det kanske inte är tillrådligt att helt enkelt dividera energin som förbrukas för att träna ChatGPT (1064 MWh) med antalet frågor under en enda dag. Utbildade algoritmer kan användas flera gånger under flera dagar, vilket gör det utmanande att exakt spåra antalet ChatGPT-frågor över tid.
Läs också: ChatGPT:s törstiga datacenter dränerar vattenresurser
Hur mycket el eller energi förbrukar AI?
De nuvarande trenderna för AI energianvändning tyder på att tekniken kan förbruka upp till 29.3 TWh el årligen. Detta motsvarar den totala årliga elförbrukningen i hela Irland.
År 2027 kan den globala AI-relaterad elanvändningen stiga med 85.4–134.0 TWh årligen, främst driven av nytillverkade servrar. Denna ökning är jämförbar med den årliga elförbrukningen i länder som Nederländerna, Argentina och Sverige.
Hur man gör Generativ AI grönare
Du kan följa dessa tips för att göra Generative AI grönare:
1. Utnyttja stora generativa modeller i stället för att skapa nya: Företag, förutom stora leverantörer eller molnleverantörer, behöver inte skapa stora modeller. Dessa företag har vanligtvis data och massor av datorkraft i molnet, så de behöver inte gå igenom besväret med att bygga dem. Detta minskar behovet av omfattande utbildning, vilket kräver betydande beräkningsresurser.
2. Implementera energibesparande beräkningsmetoder: Lokal bearbetning på små mikrokontroller sparar energiförbrukning tusen gånger mer effektivt utan att överföra data till externa servrar. Använd till exempel tekniker som gleshet regularisering or aritmetik med låg precisionoch TinyML för databehandling för att minska den beräkningsmässiga arbetsbelastningen.
3. Använd bara stor modell när det är viktigt: Undvik att använda onödigt stora modeller för uppgifter där det räcker med mindre modeller. Innan man tar till maskininlärning eller artificiell intelligens bör utvecklare utforska olika alternativa lösningar genom forskning och analys. Endast när en stor modell ger betydande värde bör den övervägas, säkerställa att resurserna används effektivt för att ta itu med problemet.
4. Var selektiv när du använder generativ AI: Var försiktig när du använder generativ AI, särskilt för uppgifter som att skapa blogginlägg eller underhållande berättelser, som kanske inte motiverar de tunga beräkningsresurser som krävs. Undvik att använda generativa modeller för uppgifter där det räcker med enklare, traditionella metoder, vilket minskar onödig energiförbrukning.
5. Marknadsför energikällor för molnleverantörer eller datacenter: Stöd initiativ för att använda förnybara energikällor för att driva AI-infrastruktur och drift, för att minimera koldioxidintensiteten hos AI och programvara.
6. Återanvänd resurser: Återanvända teknik när det är möjligt, och återvinningsmaterial för nyare tekniska komponenter som bärbara datorer och processorer minimerar också miljöpåverkan från resursutvinning.
7. Inkludera AI-aktivitet i din koldioxidövervakning: Spåra koldioxidavtryck kopplade till dina AI-aktiviteter, inklusive utbildnings- och slutledningsprocesser. Företag bör publicera koldioxidövervakningsdata för att möjliggöra informerade beslut av kunder angående AI-relaterade engagemang. Utsläppsberäkningar bygger på data från leverantörer och bearbetningsföretag som forskningslaboratorier och AI-tjänsteleverantörer som OpenAI.
8. Utforska smarta algoritmtekniker: Investera i forskning och utveckling av energieffektiva algoritmer för generativ AI. De vägleder programvara för att tolka bilder och ljud, vilket gör det möjligt för dem att få insikter. De är som recept, vägledande mjukvara och hårdvara som kockar respektive köksmaskiner. Precis som recept effektiviserar matlagningsuppgifter, effektiva algoritmer optimerar databehandlingen, vilket minskar arbetsbelastningen på mjukvaru- och hårdvarukomponenter. Förbättrad effektivitet minskar kraven på datorkraft, vilket bidrar till grönare AI-metoder.
9. Investera i energi: Företag kan till exempel samarbeta med organisationer som JORDISK att bedöma deras koldioxidavtryck med hjälp av industristandarder, eller använda många paket och onlineverktyg, som t.ex CodeCarbon, Gröna algoritmeroch ML CO2 Inverkan, som är tillgängliga för att uppskatta utsläpp i din kod under körning. De skulle tillhandahålla skräddarsydda förslag till strategier för koldioxidreducering, vilket gör det möjligt för företag att övervaka sin miljöpåverkan via plattformen.
Se även: Australien-baserade Nearas AI-teknik för att skydda verktyg från extremt väder
Google Sök energiförbrukning per år
Googles energianvändning ökade till 22.29 TWh år 2022, upp från 12.7 TWh 2019.
Google har dock tagit många initiativ för att ta itu med sin energiförbrukning. Det har den åtagit sig att driva sin verksamhet med 100 % förnybar energi genom att investera i projekt för förnybar energi som vind- och solkraftsparker och projekt för klimatkompensation. För att kompensera för sina koldioxidutsläpp fokuserar man på att förbättra energieffektiviteten i sina datacenter och anläggningar.
Grafen nedan visar Googles energiförbrukning för åren 2018 till 2022
Vi omfamnar tekniska framsteg men det är viktigt att känna till energifotavtrycket för AI-modeller som OpenAIs ChatGPT som hanterar miljontals frågor varje dag. Det beror på faktorer som modellens storlek, uppgifternas komplexitet och hårdvaran som används för beräkningen. Dessutom, för att skapa en hållbar värld kan du kolla in positiv och negativ miljöpåverkan av artificiell intelligens.
