Emisje gazów cieplarnianych z treningu ChatGPT-3 pochłaniają ponad 50,000 XNUMX galonów benzyny. To niepokojące, prawda? Więc dzisiaj poznajmy fakty na temat zużycia energii w modelach AI i znaczenia generatywnej AI dla bardziej zrównoważonego świata.
Ile energii zużywa ChatGPT dziennie?
Dzienne zużycie energii modelu ChatGPT 3 wynosi około 2916 kWh.
Po wprowadzeniu słów kluczowych do modeli sztucznej inteligencji konwersacyjnej, takich jak ChatGPT (Generative Pretrained Transformer), model na podstawie otrzymanych danych generuje odpowiedź dynamicznie naśladującą ludzkie typy. Proces ten wymaga jednak dostępu do zasobów obliczeniowych o wysokiej wydajności, w tym wydajnych procesorów CPU, GPU lub specjalistycznych akceleratorów AI, takich jak TPU.
Aby obsłużyć wdrożenia na dużą skalę i dużą liczbę interakcji użytkowników, GPT może wykorzystać techniki przetwarzania rozproszonego do wyszukiwania 175 miliardów parametrów . Wymaga to dużej ilości energii, ponieważ internet działa na serwerach zsynchronizowanych ze sprzętem.
Zwróciliśmy się do samego ChatGPT z prośbą o podanie dziennego zużycia, ale nie otrzymaliśmy wiarygodnej odpowiedzi.
Musimy zatem znaleźć sposób na obliczenie zużycia energii. Po zapoznaniu się z tym dokumentem badawczym , trenowanie modelu GPT-3 wymagało zużycia energii równoważnego 405 latom przez procesory graficzne Nvidia V100 , o których wiadomo, że zużywają około 300 W mocy . Mówiąc prościej, ukończenie procesu trenowania wymagałoby około 405 procesorów graficznych V100 pracujących jednocześnie przez rok.
Używając tego wzoru można znaleźć zużycie energii przez ChatGPT 3, które wynosi 300 W (zużycie energii V100) * 24 godziny na dobę * 365 dni w roku * 405 lat = w przybliżeniu 1064 MWh.
Spowodowało to emisję około 460 ton ekwiwalentu CO2.
Teraz, korzystając z kalkulatora ekwiwalentów gazów cieplarnianych , dane te są równoważne
- Emisja gazów cieplarnianych na dystansie 1,179,951 XNUMX XNUMX mil przejechanych przez przeciętny pojazd osobowy napędzany benzyną lub
- Emisja CO2 z 58 domów, zużycie energii w ciągu jednego roku
Dzienne zużycie energii ChatGPT 3
Zużycie energii przez GPT 3 dziennie wynosi 300 W (zużycie energii V100) * 24 godziny na dobę * 405 lat = około 2916 kWh
Jest to równowartość 1.3 tony ekwiwalentu dwutlenku węgla, co jest podobne do emisji CO2 z
- 1413 funtów spalonego węgla lub
- Naładowano 153,446 XNUMX smartfonów
Uwaga : Podane liczby mogą ulegać zmianom, gdyż ChatGPT z czasem wydaje nowe wersje lub mogą występować aktualizacje metodologii i zmiennych.
Ile energii zużywa ChatGPT miesięcznie
Zużycie energii elektrycznej GPT 3 w ciągu miesiąca można obliczyć w następujący sposób:
300 W (zużycie energii V100) * 24 godziny na dobę * 30 dni (średnio) * 405 lat = około 87 480 kWh .
- Zużycie energii przez 4 domy w ciągu 1 roku
- Można to porównać z emisją gazów cieplarnianych powstającą w wyniku przejechania 97,013 XNUMX mil przeciętnym samochodem osobowym z silnikiem benzynowym.
- Odpowiada to emisji CO2 powstałej w wyniku zużycia 3,717 galonów oleju napędowego.
Po zapoznaniu się z tymi informacjami, warto poznać zużycie energii przez Open AI ChatGPT na zapytanie, ale dzielenie energii zużytej na trenowanie ChatGPT (1064 MWh) przez liczbę zapytań w ciągu jednego dnia może nie być wskazane. Wytrenowane algorytmy mogą być wykorzystywane wielokrotnie w ciągu kilku dni, co utrudnia dokładne śledzenie liczby zapytań ChatGPT w czasie.
Przeczytaj także: Pragnące wody centra danych ChatGPT wyczerpują zasoby wody
Ile prądu lub energii zużywa sztuczna inteligencja?
Obecne trendy zużycia energii przez sztuczną inteligencję sugerują, że technologia ta może zużywać do 29.3 TWh energii elektrycznej rocznie . Jest to równowartość całkowitego rocznego zużycia energii elektrycznej w całej Irlandii.
Do 2027 roku globalne zużycie energii elektrycznej związane z AI może wzrosnąć o 85.4–134.0 TWh rocznie , głównie dzięki nowo wyprodukowanym serwerom. Wzrost ten jest porównywalny z rocznym zużyciem energii elektrycznej w takich krajach jak Holandia, Argentyna i Szwecja.
Jak uczynić sztuczną inteligencję generatywną bardziej ekologiczną
Aby uczynić Generative AI bardziej ekologiczną, możesz skorzystać z poniższych wskazówek:
1. Wykorzystuj duże modele generatywne zamiast tworzyć nowe: Firmy, z wyjątkiem dużych dostawców usług chmurowych, nie muszą tworzyć dużych modeli . Firmy te zazwyczaj dysponują danymi i dużą mocą obliczeniową w chmurze, więc nie muszą się trudzić ich budowaniem. Zmniejsza to potrzebę intensywnych szkoleń, które pochłaniają znaczne zasoby obliczeniowe.
2. Wdrażaj energooszczędne metody obliczeniowe: Lokalne przetwarzanie na maleńkich mikrokontrolerach pozwala zaoszczędzić energię tysiąckrotnie efektywniej bez przesyłania danych do serwerów zewnętrznych. Na przykład, stosuj techniki takie jak regularyzacja rozrzedzenia lub arytmetyka niskiej precyzji , a także TinyML do przetwarzania danych, aby zmniejszyć obciążenie obliczeniowe.
3. Stosuj duży model tylko wtedy, gdy ma on znaczenie: Unikaj stosowania niepotrzebnie dużych modeli do zadań, w których mniejsze modele wystarczają. Zanim sięgniesz po uczenie maszynowe lub sztuczną inteligencję, programiści powinni zbadać różne alternatywne rozwiązania poprzez badania i analizy. Należy rozważyć duży model tylko wtedy, gdy ma on istotną wartość, zapewniając efektywne wykorzystanie zasobów w celu rozwiązania danego problemu.
4. Ostrożnie korzystaj z generatywnej sztucznej inteligencji: Zachowaj ostrożność przy stosowaniu generatywnej sztucznej inteligencji, zwłaszcza w przypadku zadań takich jak generowanie postów na blogu czy zabawnych historii, które mogą nie uzasadniać dużych zasobów obliczeniowych. Unikaj wdrażania modeli generatywnych w zadaniach, w których wystarczają prostsze, tradycyjne metody, zmniejszając w ten sposób niepotrzebne zużycie energii.
5. Promuj źródła energii dla dostawców usług w chmurze lub centrów danych: Wspieraj inicjatywy mające na celu wykorzystanie odnawialnych źródeł energii do zasilania infrastruktury i operacji AI, aby zminimalizować intensywność emisji dwutlenku węgla przez AI i oprogramowanie.
6. Ponowne wykorzystanie zasobów: Ponowne wykorzystanie technologii, kiedy tylko jest to możliwe, oraz recykling materiałów w celu wykorzystania ich do produkcji nowszych podzespołów technologicznych, takich jak laptopy i procesory, minimalizują również wpływ wydobycia zasobów na środowisko.
7. Uwzględnij aktywność AI w monitorowaniu emisji dwutlenku węgla: Śledź ślad węglowy związany z działaniami AI, w tym procesami szkolenia i wnioskowania. Firmy powinny publikować dane z monitorowania emisji dwutlenku węgla, aby umożliwić klientom podejmowanie świadomych decyzji dotyczących interakcji z AI. Obliczenia emisji opierają się na danych od dostawców i firm przetwarzających, takich jak laboratoria badawcze i dostawcy usług AI, tacy jak OpenAI.
8. Poznaj techniki inteligentnych algorytmów: Zainwestuj w badania i rozwój energooszczędnych algorytmów dla generatywnej sztucznej inteligencji. Algorytmy te wspomagają oprogramowanie w interpretacji obrazów i dźwięków, umożliwiając mu wyciąganie wniosków. Są jak przepisy kulinarne, kierując odpowiednio oprogramowaniem i sprzętem, niczym szefowie kuchni i urządzenia kuchenne. Tak jak przepisy kulinarne usprawniają gotowanie, tak wydajne algorytmy optymalizują przetwarzanie danych, zmniejszając obciążenie komponentów programowych i sprzętowych. Zwiększona wydajność zmniejsza zapotrzebowanie na moc obliczeniową, przyczyniając się do bardziej ekologicznych praktyk w zakresie sztucznej inteligencji.
9. Inwestuj w energię: Na przykład, firmy mogłyby współpracować z organizacjami takimi jak EARTHLY , aby ocenić swój ślad węglowy, korzystając ze standardów branżowych, lub korzystać z licznych pakietów i narzędzi online, takich jak CodeCarbon , Green Algorithms i ML CO2 Impact , które umożliwiają szacowanie emisji w kodzie w trakcie jego działania. Dostarczałyby one spersonalizowanych propozycji strategii ograniczania emisji dwutlenku węgla, umożliwiając firmom monitorowanie ich wpływu na środowisko za pośrednictwem platformy.
Roczne zużycie energii w wyszukiwarce Google
Zużycie energii przez Google wzrosło do 22.29 TWh w roku 2022, w porównaniu z 12.7 TWh w roku 2019.
Google podjął jednak wiele inicjatyw mających na celu ograniczenie zużycia energii. Firma zobowiązała się do zasilania swojej działalności w 100% energią odnawialną , inwestując w projekty z zakresu energii odnawialnej, takie jak farmy wiatrowe i słoneczne, a także w projekty kompensacji emisji dwutlenku węgla. Aby zrekompensować emisję dwutlenku węgla, firma koncentruje się na poprawie efektywności energetycznej swoich centrów danych i obiektów.
Poniższy wykres przedstawia zużycie energii przez Google w latach 2018–2022
Z entuzjazmem przyjmujemy postęp technologiczny, ale kluczowe jest poznanie śladu energetycznego modeli sztucznej inteligencji, takich jak ChatGPT firmy OpenAI, który przetwarza miliony zapytań dziennie. Zależy to od czynników takich jak rozmiar modelu, złożoność zadań oraz sprzęt używany do obliczeń. Co więcej, aby stworzyć zrównoważony świat, można zbadać pozytywny i negatywny wpływ sztucznej inteligencji na środowisko.
