Broeikasgasemissies van training ChatGPT-3 verbruiken meer dan 50,000 gallons benzine. Dat is zorgelijk, nietwaar? Laten we vandaag eens feiten leren over het energieverbruik in AI-modellen en het belang van generatieve AI voor een duurzamere wereld.
Hoeveel energie verbruikt ChatGPT per dag?
Het energieverbruik van het ChatGPT 3-model bedraagt ongeveer 2916 kWh per dag.
Wanneer je trefwoorden invoert in conversationele AI-modellen zoals ChatGPT (Generative Pretrained Transformer), genereert het model op basis van de ontvangen input dynamisch een reactie die menselijke reacties nabootst. Dit proces vereist echter toegang tot krachtige computerbronnen, waaronder krachtige CPU's, GPU's of gespecialiseerde AI-acceleratoren zoals TPU's.
Om grootschalige implementaties te beheren en grote aantallen gebruikersinteracties te verwerken, kan GPT gebruikmaken van gedistribueerde computertechnieken met zijn 175 miljard parameters voor zoekopdrachten. Dit verbruikt energie, omdat het internet draait op servers die zijn gekoppeld aan hardware.
We hebben ChatGPT zelf gevraagd om het dagelijkse verbruik te bepalen, maar kregen geen geloofwaardig antwoord.
We moeten dus een manier vinden om het energieverbruik te schatten. Na bestudering van dit onderzoeksrapport bleek dat het trainen van het GPT-3-model het equivalent van 405 jaar energieverbruik van Nvidia V100 GPU's vereist , die naar schatting zo'n 300 watt aan stroom verbruiken . Simpel gezegd: het zou ongeveer 405 V100 GPU's kosten die een jaar lang gelijktijdig zouden werken om het trainingsproces te voltooien.
Met behulp van deze formule kunt u het energieverbruik van ChatGPT 3 berekenen, namelijk 300W (V100-stroomverbruik) * 24 uur per dag * 365 dagen per jaar * 405 jaar = ongeveer 1064 MWh.
Dit resulteerde in een uitstoot van ongeveer 460 ton CO2-equivalent.
Met behulp van deze calculator voor broeikasgasequivalenten is deze data nu gelijk aan...
- Broeikasgasemissies van 1,179,951 mijl gereden door een gemiddelde personenauto op benzine of
- CO2-uitstoot van 58 huishoudens energieverbruik gedurende één jaar
Energieverbruik per dag van ChatGPT 3
Het energieverbruik van GPT 3 per dag bedraagt 300W (V100-stroomverbruik) * 24 uur per dag * 405 jaar = circa 2916 kWh .
Het is gelijk aan 1.3 ton koolstofdioxide-equivalent, wat vergelijkbaar is met de CO2-uitstoot van
- 1413 pond steenkool verbrand of
- 153,446 smartphones opgeladen
Let op : deze cijfers kunnen variëren, aangezien ChatGPT in de loop der tijd nieuwe versies uitbrengt of er updates kunnen zijn in methodologieën en variabelen.
Hoeveel energie verbruikt ChatGPT per maand?
Het energieverbruik van GPT 3 per maand kan worden berekend als
300W (stroomverbruik van V100) * 24 uur per dag * 30 dagen (gemiddeld) * 405 jaar = ongeveer 87,480 kWh .
- Energieverbruik van 4 woningen gedurende 1 jaar
- Dit is vergelijkbaar met de uitstoot van broeikasgassen die ontstaat als een gemiddelde personenauto op benzine 97,013 kilometer rijdt.
- Dit staat gelijk aan de CO2-uitstoot die ontstaat bij het verbruik van 3,717 gallons dieselbrandstof.
Na deze informatie te hebben verkregen, is het interessant om het energieverbruik van OpenAI ChatGPT per zoekopdracht te weten. Het is echter wellicht niet verstandig om simpelweg de energie die is verbruikt voor het trainen van ChatGPT (1064 MWh) te delen door het aantal zoekopdrachten op één dag. Getrainde algoritmen kunnen meerdere keren over meerdere dagen worden gebruikt, waardoor het lastig is om het aantal ChatGPT-zoekopdrachten in de loop van de tijd nauwkeurig bij te houden.
Lees ook: De dorstige datacenters van ChatGPT putten de watervoorraden uit.
Hoeveel elektriciteit of energie verbruikt AI?
De huidige trends in energieverbruik van AI suggereren dat de technologie tot wel 29.3 TWh elektriciteit per jaar kan verbruiken . Dat is gelijk aan het totale jaarlijkse elektriciteitsverbruik van heel Ierland.
Tegen 2027 zou het wereldwijde elektriciteitsverbruik voor AI-toepassingen met 85.4 tot 134.0 TWh per jaar kunnen stijgen , voornamelijk door de productie van nieuwe servers. Deze stijging is vergelijkbaar met het jaarlijkse elektriciteitsverbruik van landen als Nederland, Argentinië en Zweden.
Hoe generatieve AI groener te maken
U kunt deze tips volgen om Generatieve AI groener te maken:
1. Maak gebruik van grote generatieve modellen in plaats van nieuwe te creëren: Bedrijven, met uitzondering van grote leveranciers of cloudproviders, hoeven geen grote modellen te ontwikkelen . Deze bedrijven beschikken doorgaans over de data en veel rekenkracht in de cloud, waardoor ze niet de moeite hoeven te nemen om ze te bouwen. Dit vermindert de behoefte aan uitgebreide training, die aanzienlijke rekenkracht vereist.
2. Implementeer energiebesparende rekenmethoden: Lokale verwerking op kleine microcontrollers bespaart duizend keer meer energie doordat er geen gegevens naar externe servers hoeven te worden verzonden. Gebruik bijvoorbeeld technieken zoals sparse regularisatie of rekenkunde met lage precisie , en TinyML voor gegevensverwerking om de rekenlast te verminderen.
3. Gebruik grote modellen alleen wanneer ze van belang zijn: Vermijd het gebruik van onnodig grote modellen voor taken waar kleinere modellen volstaan. Voordat ontwikkelaars hun toevlucht nemen tot machine learning of kunstmatige intelligentie, moeten ze verschillende alternatieve oplossingen onderzoeken door middel van onderzoek en analyse. Een groot model moet alleen worden overwogen wanneer het aanzienlijke waarde biedt, zodat de middelen efficiënt worden ingezet om het probleem in kwestie aan te pakken.
4. Wees selectief in het gebruik van generatieve AI: Wees voorzichtig met het inzetten van generatieve AI, vooral voor taken zoals het genereren van blogberichten of grappige verhalen, waarvoor de benodigde rekenkracht mogelijk niet nodig is. Vermijd het gebruik van generatieve modellen voor taken waar eenvoudigere, traditionele methoden volstaan, om zo onnodig energieverbruik te verminderen.
5. Stimuleer energiebronnen voor cloudproviders of datacenters: Ondersteun initiatieven voor het gebruik van hernieuwbare energiebronnen om AI-infrastructuur en -activiteiten van stroom te voorzien, om de CO2-uitstoot van AI en software te minimaliseren.
6. Hergebruik van grondstoffen: Door technologie waar mogelijk te hergebruiken en materialen te recyclen voor nieuwere technologische componenten zoals laptops en processoren, wordt de milieubelasting van de grondstoffenwinning geminimaliseerd.
7. Neem AI-activiteiten op in uw CO2-monitoring: Houd de CO2-voetafdruk bij die verband houdt met uw AI-activiteiten, inclusief trainings- en inferentieprocessen. Bedrijven moeten de CO2-monitoringgegevens openbaar maken, zodat klanten weloverwogen beslissingen kunnen nemen met betrekking tot AI-gerelateerde projecten. De berekening van de emissies is gebaseerd op gegevens van leveranciers en verwerkingsbedrijven, zoals onderzoekslaboratoria en AI-dienstverleners zoals OpenAI.
8. Verken slimme algoritmetechnieken: Investeer in onderzoek en ontwikkeling van energiezuinige algoritmen voor generatieve AI. Deze algoritmen begeleiden software bij het interpreteren van beeld en geluid, waardoor inzichten kunnen worden verkregen. Ze zijn als recepten, die software en hardware respectievelijk als kok en keukenapparatuur aansturen. Net zoals een recept kooktaken stroomlijnt, optimaliseren efficiënte algoritmen de gegevensverwerking, waardoor de werkdruk op software- en hardwarecomponenten afneemt. Verbeterde efficiëntie vermindert de benodigde rekenkracht, wat bijdraagt aan groenere AI-praktijken.
9. Investeer in energie: Bedrijven zouden bijvoorbeeld kunnen samenwerken met organisaties zoals EARTHLY om hun CO2-voetafdruk te beoordelen aan de hand van industriestandaarden, of gebruikmaken van diverse pakketten en online tools, zoals CodeCarbon , Green Algorithms en ML CO2 Impact , waarmee emissies binnen de code tijdens runtime kunnen worden geschat. Deze tools bieden op maat gemaakte voorstellen voor strategieën om de CO2-uitstoot te verminderen, waardoor bedrijven hun milieu-impact via het platform kunnen monitoren.
Zie ook: AI-technologie van het Australische bedrijf Neara beschermt nutsbedrijven tegen extreem weer
Google Zoeken Energieverbruik per jaar
Het energieverbruik van Google steeg in 2022 naar 22.29 TWh , tegenover 12.7 TWh in 2019.
Google heeft echter diverse initiatieven genomen om zijn energieverbruik aan te pakken. Het bedrijf heeft zich ertoe verbonden om zijn activiteiten volledig op hernieuwbare energie te laten draaien door te investeren in projecten voor hernieuwbare energie, zoals wind- en zonneparken, en in projecten voor CO2-compensatie. Om de CO2-uitstoot te compenseren, richt Google zich op het verbeteren van de energie-efficiëntie van zijn datacenters en faciliteiten.
De onderstaande grafiek toont het energieverbruik van Google voor de jaren 2018 tot en met 2022
We omarmen technologische vooruitgang, maar het is essentieel om de energievoetafdruk te kennen van AI-modellen zoals OpenAI's ChatGPT, dat dagelijks miljoenen vragen verwerkt. Deze voetafdruk hangt af van factoren zoals de grootte van het model, de complexiteit van de taken en de gebruikte hardware. Bovendien is het, om een duurzame wereld te creëren, belangrijk om de positieve en negatieve milieu-impact van kunstmatige intelligentie te onderzoeken.
