Broeikasgasemissies van training ChatGPT-3 verbruiken meer dan 50,000 gallons benzine. Dat is zorgelijk, nietwaar? Laten we vandaag eens feiten leren over het energieverbruik in AI-modellen en het belang van generatieve AI voor een duurzamere wereld.
Hoeveel energie verbruikt ChatGPT per dag?
Het energieverbruik van het ChatGPT 3-model per dag is ongeveer 2916 kWh.
Wanneer u trefwoorden invoert in Conversational AI-modellen zoals ChatGPT (Generative Pretrained Transformer), genereert het model op basis van de ontvangen invoer een respons die dynamisch menselijke typen nabootst. Dit proces vereist toegang tot high-performance computing-bronnen, waaronder krachtige CPU's, GPU's of gespecialiseerde AI-versnellers zoals TPU's.
Om grootschalige implementaties te verwerken en grote volumes aan gebruikersinteracties te accommoderen, kan GPT gebruikmaken van gedistribueerde computertechnieken van zijn 175 miljard parameters voor zoeken. Dit verbruikt energie omdat het internet draait op servers die zijn uitgelijnd met hardware.
We hebben ChatGPT zelf gevraagd om zijn dagelijkse verbruik te bepalen, maar kreeg geen geloofwaardig antwoord.
Dus we moeten een manier vinden om het energieverbruik te veronderstellen. Nadat we dit hebben doorgenomen research paperVoor het trainen van het GPT-3-model was het equivalent van 405 jaar aan energieverbruik nodig Nvidia V100 GPU'swaarvan bekend is dat verbruiken ongeveer 300W aan vermogenSimpel gezegd: er zouden ongeveer 405 V100 GPU's nodig zijn die gelijktijdig een jaar lang werken om het trainingsproces te voltooien.
Hiermee gebruik maken formule, kunt u het energieverbruik van ChatGPT 3 vinden, dat is 300W (V100 stroomverbruik) * 24 uur per dag * 365 dagen per jaar * 405 jaar = 1064 MWh ongeveer.
Dit resulteerde in een emissie van ongeveer 460 metrische ton CO2-equivalent.
Nu, met behulp van dit Calculator voor broeikasgasequivalenten, deze gegevens zijn gelijkwaardig aan
- Broeikasgasemissies van 1,179,951 mijl gereden door een gemiddelde personenauto op benzine of
- CO2-uitstoot van 58 huishoudens energieverbruik gedurende één jaar
Energieverbruik per dag van ChatGPT 3
Het energieverbruik van GPT 3 per dag is 300W (V100 stroomverbruik) * 24 uur per dag * 405 jaar = 2916 kWh ongeveer
Het is gelijk aan 1.3 ton koolstofdioxide-equivalent, wat vergelijkbaar is met de CO2-uitstoot van
- 1413 pond steenkool verbrand of
- 153,446 smartphones opgeladen
Note: Deze cijfers kunnen variëren omdat ChatGPT in de loop van de tijd nieuwe versies uitbrengt of omdat er updates zijn in methodologieën en variabelen.
Hoeveel energie verbruikt ChatGPT per maand?
Het energieverbruik van GPT 3 per maand kan worden berekend als
300W (V100 stroomverbruik) * 24 uur per dag * 30 dagen (gemiddeld) * 405 jaar = 87,480 kWh ongeveer.
- Energieverbruik van 4 woningen gedurende 1 jaar
- Dit is vergelijkbaar met de uitstoot van broeikasgassen die ontstaat als een gemiddelde personenauto op benzine 97,013 kilometer rijdt.
- Dit staat gelijk aan de CO2-uitstoot die ontstaat bij het verbruik van 3,717 gallons dieselbrandstof.
Na deze informatie te hebben, ligt de interesse in het kennen van het Open AI ChatGPT-energieverbruik per query, maar het is misschien niet raadzaam om de verbruikte energie voor het trainen van ChatGPT (1064 MWh) eenvoudigweg te delen door het aantal query's op één dag. Getrainde algoritmen kunnen meerdere keren worden gebruikt gedurende meerdere dagen, waardoor het Het is lastig om het aantal ChatGPT-query's in de loop van de tijd nauwkeurig bij te houden.
Lees ook: De dorstige datacenters van ChatGPT putten waterbronnen uit
Hoeveel elektriciteit of energie verbruikt AI?
De huidige trends in het AI-energiegebruik suggereren dat de technologie tot wel 100.000 ton kan verbruiken. 29.3 TWh elektriciteit per jaarDit komt overeen met het totale jaarlijkse elektriciteitsverbruik van heel Ierland.
Tegen 2027 zou het wereldwijde AI-gerelateerde elektriciteitsverbruik met 85.4–134.0 TWh per jaar, voornamelijk gedreven door nieuw geproduceerde servers. Deze toename is vergelijkbaar met het jaarlijkse elektriciteitsverbruik van landen als Nederland, Argentinië en Zweden.
Hoe generatieve AI groener te maken
U kunt deze tips volgen om Generatieve AI groener te maken:
1. Maak gebruik van grote generatieve modellen in plaats van nieuwe te creëren: Bedrijven, met uitzondering van grote leveranciers of cloudproviders, hoeft geen grote modellen te maken. Deze bedrijven hebben doorgaans de data en veel rekenkracht in de cloud, dus hoeven ze niet de moeite te nemen om ze te bouwen. Dit vermindert de behoefte aan uitgebreide training, die aanzienlijke rekenkracht verbruikt.
2. Implementeer energiebesparende rekenmethoden: Lokale verwerking op kleine microcontrollers bespaart duizend keer efficiënter stroomverbruik zonder gegevens over te dragen naar externe servers. Gebruik bijvoorbeeld technieken als schaarsteregularisatie or lage precisie rekenkundeen TinyML voor gegevensverwerking om de rekenwerklast te verminderen.
3. Pas een groot model alleen toe als het van belang is: Vermijd het gebruik van onnodig grote modellen voor taken waar kleinere modellen volstaan. Voordat ze hun toevlucht nemen tot machine learning of kunstmatige intelligentie, moeten ontwikkelaars verschillende alternatieve oplossingen onderzoeken door middel van onderzoek en analyse. Alleen wanneer een groot model substantiële waarde biedt, moet het worden overwogen, ervoor zorgen dat middelen efficiënt worden gebruikt om het probleem aan te pakken.
4. Wees selectief bij het gebruik van generatieve AI: Wees voorzichtig met het inzetten van generatieve AI, met name voor taken als het genereren van blogposts of grappige verhalen, die mogelijk niet de zware rekenkracht rechtvaardigen die nodig is. Vermijd het inzetten van generatieve modellen voor taken waar eenvoudigere, traditionele methoden voldoende zijn, waardoor onnodig energieverbruik wordt verminderd.
5. Promoot energiebronnen voor cloudproviders of datacenters: Ondersteun initiatieven voor het gebruik van hernieuwbare energiebronnen om AI-infrastructuur en -activiteiten van stroom te voorzien, om de koolstofintensiteit van AI en software te minimaliseren.
6. Hergebruik hulpbronnen: Technologie waar mogelijk hergebruiken en materialen recyclen voor nieuwere technische componenten zoals laptops en processoren minimaliseert bovendien de impact van de grondstoffenwinning op het milieu.
7. Neem AI-activiteiten op in uw COXNUMX-monitoring: Volg de ecologische voetafdruk die verband houden met uw AI-activiteiten, waaronder trainings- en inferentieprocessen. Bedrijven moeten de koolstofmonitoringgegevens publiceren om klanten in staat te stellen weloverwogen beslissingen te nemen met betrekking tot AI-gerelateerde betrokkenheid. Emissieberekening is afhankelijk van gegevens van leveranciers en verwerkingsbedrijven zoals onderzoekslaboratoria en AI-dienstverleners zoals OpenAI.
8. Ontdek slimme algoritmetechnieken: Investeer in onderzoek en ontwikkeling van energiezuinige algoritmen voor generatieve AI. Ze begeleiden software bij het interpreteren van beelden en audio, waardoor ze inzichten kunnen afleiden. Ze zijn als recepten, begeleidende software en hardware als respectievelijk chefs en keukenapparatuur. Net zoals recepten kooktaken stroomlijnen, efficiënte algoritmen optimaliseren de gegevensverwerking en verminderen de werklast op software- en hardwarecomponenten. Verbeterde efficiëntie vermindert de vereisten voor computerkracht, wat bijdraagt aan groenere AI-praktijken.
9. Investeer in energie: Bedrijven zouden bijvoorbeeld kunnen samenwerken met organisaties als AARDS om hun CO2-voetafdruk te beoordelen met behulp van industrienormen, of om gebruik te maken van talloze pakketten en online tools, zoals CodeKoolstof, Groene algoritmenen ML CO2-impact, die toegankelijk zijn voor het schatten van emissies binnen uw code tijdens runtime. Ze zouden aangepaste voorstellen voor koolstofmitigatiestrategieën bieden, waardoor bedrijven hun milieu-impact via het platform kunnen monitoren.
Zie ook: De AI-technologie van Neara uit Australië beschermt nutsbedrijven tegen extreme weersomstandigheden
Google Zoeken Energieverbruik per jaar
Het energieverbruik van Google steeg tot 22.29 TWh in het jaar 2022, een stijging ten opzichte van 12.7 TWh in 2019.
Google heeft echter veel initiatieven ondernomen om zijn energieverbruik aan te pakken. toegewijd aan het aandrijven van haar activiteiten met 100% hernieuwbare energie door te investeren in hernieuwbare energieprojecten zoals wind- en zonneparken en koolstofcompensatieprojecten. Om de koolstofuitstoot te compenseren, richt het zich op het verbeteren van de energie-efficiëntie van zijn datacenters en faciliteiten.
De onderstaande grafiek toont het energieverbruik van Google voor de jaren 2018 tot en met 2022
We omarmen technologische vooruitgang, maar het is essentieel om de energievoetafdruk van AI-modellen te kennen, zoals OpenAI's ChatGPT, dat miljoenen query's per dag verwerkt. Het hangt af van factoren zoals de grootte van het model, de complexiteit van taken en de hardware die voor berekeningen wordt gebruikt. Bovendien kunt u, om een duurzame wereld te creëren, de positieve en negatieve impact van kunstmatige intelligentie op het milieu.
