ChatGPT-3 harjoittelun kasvihuonekaasupäästöt kuluttavat yli 50,000 XNUMX gallonaa bensiiniä. Tämä on huolestuttavaa, eikö? Joten tänään oppikaamme faktoja tekoälymallien energiankulutuksesta ja generatiivisen tekoälyn merkityksestä kestävämmän maailman kannalta.
Kuinka paljon energiaa ChatGPT käyttää päivässä?
ChatGPT 3 -mallin energiankulutus päivässä on noin 2916 kWh.
Kun syötät avainsanoja keskustelupohjaisiin tekoälymalleihin, kuten ChatGPT (Generative Pretrained Transformer), malli luo vastaanotetun syötteen perusteella dynaamisesti ihmistyyppejä matkivan vastauksen. Tämä prosessi vaatii kuitenkin pääsyn tehokkaisiin laskentaresursseihin, kuten tehokkaisiin suorittimiin, näytönohjaimiin tai erikoistuneisiin tekoälykiihdyttimiin, kuten TPU:ihin.
Laajamittaisten käyttöönottojen ja käyttäjävuorovaikutusten määrän hallitsemiseksi GPT saattaa hyödyntää hajautettuja laskentatekniikoita 175 miljardin parametrinsa avulla hakuun. Tämä kuluttaa energiaa, koska Internet toimii laitteistoon sovitetuilla palvelimilla.
Pyysimme ChatGPT:tä itseään määrittämään päivittäisen kulutuksensa, mutta emme saaneet uskottavaa vastausta.
Meidän on siis löydettävä tapa olettaa energiankulutus. Tämän tutkimusartikkelin läpikäymisen jälkeen GPT-3-mallin kouluttaminen vaati Nvidia V100 -näytönohjaimilta 405 vuoden energiankulutuksen , jonka tiedetään kuluttavan noin 300 W tehoa . Yksinkertaisemmin sanottuna koulutusprosessin suorittamiseen tarvittaisiin noin 405 V100-näytönohjainta työskentelemään samanaikaisesti vuoden ajan.
Tämän kaavan avulla voit löytää ChatGPT 3:n energiankulutuksen, joka on noin 300 W (V100:n tehonkulutus) * 24 tuntia vuorokaudessa * 365 päivää vuodessa * 405 vuotta = 1064 MWh.
Tämä johti noin 460 tonnin hiilidioksidiekvivalenttipäästöihin.
Nyt, käyttämällä tätä kasvihuonekaasujen ekvivalenttilaskuria , tämä data vastaa
- Kasvihuonekaasupäästöt 1,179,951 XNUMX XNUMX mailista, kun keskiverto bensiinikäyttöinen henkilöauto on ajettu
- CO2-päästöt 58 kodin energiankäytöstä yhden vuoden ajan
Päivittäinen ChatGPT 3:n energiankulutus
GPT 3:n energiankulutus päivässä on 300 W (V100:n tehonkulutus) * 24 tuntia päivässä * 405 vuotta = noin 2916 kWh.
Se vastaa 1.3 tonnia hiilidioksidiekvivalenttia, mikä on samanlainen kuin hiilidioksidipäästöt
- 1413 kiloa hiiltä poltettiin tai
- 153,446 XNUMX älypuhelinta ladattu
Huomautus : Nämä luvut voivat vaihdella ChatGPT:n julkaisemien uusien versioiden tai menetelmien ja muuttujien päivitysten myötä.
Kuinka paljon energiaa ChatGPT kuluttaa kuukaudessa
Energiankulutus GPT 3 kuukaudessa voidaan laskea seuraavasti
300 W (V100-virrankulutus) * 24 tuntia päivässä * 30 päivää (keskimäärin) * 405 vuotta = noin 87 480 kWh .
- 4 kodin energiankäyttö 1 vuoden ajan
- Tämä on verrattavissa kasvihuonekaasupäästöihin, joita syntyy ajettaessa keskimääräistä bensiinikäyttöistä henkilöautoa 97,013 XNUMX mailia.
- Tämä vastaa 2 3,717 gallonan dieselpolttoaineen kulutuksen aiheuttamia hiilidioksidipäästöjä.
Tämän tiedon jälkeen on kiinnostavaa tietää Open AI ChatGPT:n energiankulutus kyselyä kohden, mutta ei välttämättä ole suositeltavaa yksinkertaisesti jakaa ChatGPT:n kouluttamiseen kulutettua energiaa (1064 MWh) yhden päivän kyselyiden määrällä. Koulutettuja algoritmeja voidaan käyttää useita kertoja useiden päivien aikana, mikä tekee ChatGPT-kyselyiden määrän tarkan seurannan ajan kuluessa haastavaksi.
Lue myös: ChatGPT:n janoiset datakeskukset kuluttavat vesivaroja
Kuinka paljon tekoäly kuluttaa sähköä tai energiaa?
Nykyiset tekoälyn energiankulutustrendit viittaavat siihen, että teknologia voi kuluttaa jopa 29.3 TWh sähköä vuodessa . Tämä vastaa koko Irlannin vuotuista sähkönkulutusta.
Vuoteen 2027 mennessä tekoälyyn liittyvän sähkönkulutuksen maailmanlaajuinen kasvu voi olla 85.4–134.0 TWh vuodessa , pääasiassa uusien palvelimien ansiosta. Tämä kasvu on verrattavissa esimerkiksi Alankomaiden, Argentiinan ja Ruotsin vuotuiseen sähkönkulutukseen.
Kuinka tehdä generatiivisesta tekoälystä vihreämpää
Voit tehdä generatiivisesta tekoälystä vihreämpää noudattamalla näitä vinkkejä:
1. Hyödynnä suuria generatiivisia malleja uusien luomisen sijaan: Yritysten, suuria toimittajia tai pilvipalveluntarjoajia lukuun ottamatta, ei tarvitse luoda suuria malleja . Näillä yrityksillä on yleensä data ja paljon laskentatehoa pilvessä, joten niiden ei tarvitse nähdä vaivaa niiden rakentamisessa. Tämä vähentää laajan koulutuksen tarvetta, joka kuluttaa merkittäviä laskentaresursseja.
2. Toteuta energiaa säästäviä laskentamenetelmiä: Pienten mikrokontrollerien paikallinen prosessointi säästää energiankulutusta tuhat kertaa tehokkaammin ilman datan siirtämistä ulkoisille palvelimille. Käytä esimerkiksi tekniikoita, kuten harvalukuista regularisointia tai matalan tarkkuuden aritmetiikkaa , ja TinyML: ää datan käsittelyyn laskennallisen työmäärän vähentämiseksi.
3. Käytä suurta mallia vain silloin, kun se on tärkeää: Vältä tarpeettoman suurten mallien käyttöä tehtävissä, joissa pienemmät mallit riittävät. Ennen koneoppimiseen tai tekoälyyn turvautumista kehittäjien tulisi tutkia erilaisia vaihtoehtoisia ratkaisuja tutkimuksen ja analyysin avulla. Suuria malleja tulisi harkita vain silloin, kun ne tarjoavat merkittävää arvoa, varmistaen, että resursseja käytetään tehokkaasti käsillä olevan ongelman ratkaisemiseksi.
4. Ole valikoiva generatiivisen tekoälyn käytössä: Ole varovainen käyttäessäsi generatiivista tekoälyä, erityisesti tehtävissä, kuten blogikirjoitusten tai huvittavien tarinoiden luomisessa, jotka eivät välttämättä vaadi vaadittavia raskaita laskentaresursseja. Vältä generatiivisten mallien käyttöä tehtävissä, joissa yksinkertaisemmat, perinteiset menetelmät riittävät, mikä vähentää tarpeetonta energiankulutusta.
5. Edistä energialähteiden käyttöä pilvipalveluntarjoajille tai datakeskuksille: Tue aloitteita, joissa käytetään uusiutuvia energialähteitä tekoälyinfrastruktuurin ja -toimintojen voimanlähteenä tekoälyn ja ohjelmistojen hiili-intensiteetin minimoimiseksi.
6. Resurssien uudelleenkäyttö: Teknologian uudelleenkäyttö aina kun mahdollista ja materiaalien kierrätys uudempien teknisten komponenttien, kuten kannettavien tietokoneiden ja prosessorien, valmistuksessa minimoi myös resurssien louhinnan ympäristövaikutukset.
7. Sisällytä tekoälytoiminta hiilijalanjälkeesi: Seuraa tekoälytoimintaasi liittyvää hiilijalanjälkeä , mukaan lukien koulutus- ja päättelyprosessit. Yritysten tulisi julkaista hiilijalanjäljen seurantatiedot, jotta asiakkaat voivat tehdä tietoon perustuvia päätöksiä tekoälyyn liittyvistä toiminnoista. Päästölaskenta perustuu toimittajilta ja prosessointiyrityksiltä, kuten tutkimuslaboratorioilta ja tekoälypalveluntarjoajilta, kuten OpenAI:lta, saatuihin tietoihin.
8. Tutki älykkäitä algoritmitekniikoita: Investoi generatiivisen tekoälyn energiatehokkaiden algoritmien tutkimukseen ja kehitykseen. Ne ohjaavat ohjelmistoja visuaalisten elementtien ja äänen tulkinnassa, jolloin ne voivat saada oivalluksia. Ne toimivat reseptien tavoin ohjaavana ohjelmistona ja laitteistona, kuten kokit ja keittiökoneet. Aivan kuten reseptit virtaviivaistavat ruoanlaittotehtäviä, tehokkaat algoritmit optimoivat tiedonkäsittelyä vähentäen ohjelmisto- ja laitteistokomponenttien työmäärää. Tehokkuuden parantaminen vähentää laskentatehon vaatimuksia ja edistää ympäristöystävällisempiä tekoälykäytäntöjä.
9. Investoi energiaan: Yritykset voisivat esimerkiksi tehdä yhteistyötä EARTHLYn kaltaisten organisaatioiden kanssa hiilijalanjälkensä arvioimiseksi alan standardien avulla tai käyttää useita paketteja ja verkkotyökaluja, kuten CodeCarbonia , Green Algorithmsiä ja ML CO2 Impactia , jotka ovat käytettävissä päästöjen arvioimiseen koodin ajonaikana. Ne tarjoaisivat räätälöityjä ehdotuksia hiilidioksidipäästöjen vähentämisstrategioista, joiden avulla yritykset voivat seurata ympäristövaikutuksiaan alustan kautta.
Katso myös: Australialaisen Nearan tekoälyteknologia suojaa sähkölaitoksia äärimmäisiltä sääolosuhteilta
Google-haku Energiankulutus vuodessa
Googlen energiankulutus nousi 22.29 terawattituntiin vuonna 2022, kun se vuonna 2019 oli 12.7 terawattituntia.
Google on kuitenkin tehnyt monia aloitteita energiankulutuksensa vähentämiseksi. Se on sitoutunut käyttämään 100-prosenttisesti uusiutuvaa energiaa investoimalla uusiutuvan energian hankkeisiin, kuten tuuli- ja aurinkovoimaloihin, sekä hiilidioksidipäästöjen kompensointihankkeisiin. Hiilidioksidipäästöjensä kompensoimiseksi se keskittyy parantamaan datakeskusten ja tilojen energiatehokkuutta.
Alla oleva kaavio näyttää Googlen energiankulutuksen vuosina 2018–2022
Hyödynnämme teknologista kehitystä, mutta on tärkeää tietää tekoälymallien, kuten OpenAI:n ChatGPT:n, energiajalanjälki, joka käsittelee miljoonia kyselyitä päivittäin. Se riippuu tekijöistä, kuten mallin koosta, tehtävien monimutkaisuudesta ja laskennassa käytetystä laitteistosta. Lisäksi kestävän maailman luomiseksi voit tarkastella tekoälyn positiivisia ja negatiivisia ympäristövaikutuksia.
