Выбросы парниковых газов от обучения ChatGPT-3 потребляют 50,000 XNUMX+ галлонов бензина. Это беспокоит, не так ли? Итак, сегодня давайте узнаем факты о потреблении энергии в моделях ИИ и важности генеративного ИИ для более устойчивого мира.
Сколько энергии ChatGPT потребляет в день?
Суточное энергопотребление модели ChatGPT 3 составляет около 2916 кВт·ч.
Когда вы вводите ключевые слова в модели разговорного ИИ, такие как ChatGPT (Generative Pretrained Transformer), на основе полученных входных данных модель генерирует ответ, динамически имитирующий человеческий тип. Однако этот процесс требует доступа к высокопроизводительным вычислительным ресурсам, включая мощные процессоры, графические процессоры или специализированные ускорители ИИ, такие как TPU.
Для обработки крупномасштабных развертываний и большого объема пользовательских взаимодействий GPT может использовать методы распределенных вычислений, основанные на 175 миллиардах параметров поиска. Это потребляет энергию, поскольку Интернет работает на серверах, синхронизированных с оборудованием.
Мы попросили саму ChatGPT определить ежедневное потребление ресурсов, но не получили внятного ответа.
Итак, нам нужно найти способ оценить энергопотребление. После изучения этой исследовательской работы выяснилось, что для обучения модели GPT-3 требуется количество энергии, эквивалентное 405 годам работы графических процессоров Nvidia V100 , которые, как известно, потребляют около 300 Вт мощности . Проще говоря, для завершения процесса обучения потребуется примерно 405 графических процессоров V100, работающих одновременно в течение одного года.
Используя эту формулу , вы можете рассчитать энергопотребление ChatGPT 3, которое составляет приблизительно 300 Вт (потребление мощности V100) * 24 часа в сутки * 365 дней в году * 405 лет = 1064 МВт·ч.
В результате этого было выброшено приблизительно 460 метрических тонн эквивалента CO2.
Теперь, используя этот калькулятор эквивалентов парниковых газов , эти данные эквивалентны следующему:
- Выбросы парниковых газов за 1,179,951 XNUMX XNUMX милю, пройденную среднестатистическим легковым автомобилем с бензиновым двигателем, или
- Выбросы CO2 от 58 домов, использующих энергию за один год
Потребление энергии ChatGPT 3 в день
Энергопотребление GPT 3 в день составляет 300 Вт (потребление мощности V100) * 24 часа в сутки * 405 лет = приблизительно 2916 кВт·ч .
Это эквивалентно 1.3 тоннам углекислого газа, что аналогично выбросам CO2 от
- 1413 фунтов сожженного угля или
- 153,446 XNUMX смартфонов заряжены
Примечание : Эти данные могут меняться по мере выхода новых версий ChatGPT или обновления методологий и переменных.
Сколько энергии потребляет ChatGPT в месяц?
Потребление энергии GPT 3 в месяц можно рассчитать как
300 Вт (потребление энергии V100) * 24 часа в сутки * 30 дней (в среднем) * 405 лет = приблизительно 87 480 кВт·ч .
- Энергопотребление 4 домов за 1 год
- Это сопоставимо с выбросами парниковых газов, которые образуются при проезде среднестатистического легкового автомобиля с бензиновым двигателем на расстояние 97,013 XNUMX миль.
- Это эквивалентно выбросам CO2, образующимся при потреблении 3,717 галлонов дизельного топлива.
Получив эту информацию, возникает вопрос об энергопотреблении Open AI ChatGPT на один запрос, но простое деление энергии, затраченной на обучение ChatGPT (1064 МВт·ч), на количество запросов за один день может быть нецелесообразным. Обученные алгоритмы могут использоваться многократно в течение нескольких дней, что затрудняет точное отслеживание количества запросов ChatGPT с течением времени.
Читайте также: «Прожорливые центры обработки данных ChatGPT истощают водные ресурсы»
Сколько электроэнергии или энергии потребляет ИИ?
Современные тенденции энергопотребления в сфере искусственного интеллекта показывают, что эта технология может потреблять до 29.3 ТВт·ч электроэнергии в год . Это эквивалентно общему годовому потреблению электроэнергии всей Ирландии.
К 2027 году глобальное потребление электроэнергии, связанное с искусственным интеллектом, может вырасти на 85.4–134.0 ТВт·ч в год , в основном за счет новых производимых серверов. Этот рост сопоставим с годовым потреблением электроэнергии в таких странах, как Нидерланды, Аргентина и Швеция.
Как сделать генеративный ИИ более экологичным
Чтобы сделать генеративный ИИ более экологичным, следуйте этим советам:
1. Используйте большие генеративные модели вместо создания новых: компаниям, за исключением крупных поставщиков или облачных провайдеров, нет необходимости создавать большие модели . У этих компаний обычно есть данные и большие вычислительные мощности в облаке, поэтому им не нужно тратить время на их создание. Это снижает потребность в обширном обучении, которое потребляет значительные вычислительные ресурсы.
2. Внедрение энергосберегающих вычислительных методов: локальная обработка на миниатюрных микроконтроллерах позволяет экономить энергию в тысячу раз эффективнее без передачи данных на внешние серверы. Например, можно использовать такие методы, как регуляризация разреженности или арифметика низкой точности , а также TinyML для обработки данных, чтобы уменьшить вычислительную нагрузку.
3. Применяйте большие модели только тогда, когда это действительно важно: Избегайте использования излишне больших моделей для задач, где достаточно меньших моделей. Прежде чем прибегать к машинному обучению или искусственному интеллекту, разработчики должны изучить различные альтернативные решения посредством исследований и анализа. Рассматривать большие модели следует только тогда, когда они действительно представляют существенную ценность, обеспечивая при этом эффективное использование ресурсов для решения поставленной задачи.
4. Осторожно используйте генеративный ИИ: проявляйте осторожность при применении генеративного ИИ, особенно для таких задач, как создание постов для блогов или забавных историй, которые могут не требовать значительных вычислительных ресурсов. Избегайте использования генеративных моделей для задач, где достаточно более простых традиционных методов, тем самым снижая ненужное энергопотребление.
5. Содействие использованию возобновляемых источников энергии для облачных провайдеров или центров обработки данных: Поддержка инициатив по использованию возобновляемых источников энергии для питания инфраструктуры и операций ИИ с целью минимизации углеродоемкости ИИ и программного обеспечения.
6. Повторное использование ресурсов: Повторное использование технологий, когда это возможно, и переработка материалов для новых технических компонентов, таких как ноутбуки и процессоры, также минимизируют воздействие добычи ресурсов на окружающую среду.
7. Включите деятельность, связанную с ИИ, в мониторинг выбросов углекислого газа: отслеживайте углеродный след, связанный с вашей деятельностью в области ИИ, включая процессы обучения и вывода результатов. Компании должны публиковать данные мониторинга выбросов углекислого газа, чтобы клиенты могли принимать обоснованные решения относительно взаимодействия с ИИ. Расчет выбросов основан на данных от поставщиков и компаний, занимающихся обработкой данных, таких как исследовательские лаборатории и поставщики услуг ИИ, например, OpenAI.
8. Изучение интеллектуальных алгоритмических методов: Инвестируйте в исследования и разработку энергоэффективных алгоритмов для генеративного ИИ. Они помогают программному обеспечению интерпретировать визуальные и звуковые данные, позволяя получать ценные выводы. Они подобны рецептам, направляющим работу программного и аппаратного обеспечения, подобно поварам и кухонным приборам соответственно. Подобно тому, как рецепт упрощает процесс приготовления пищи, эффективные алгоритмы оптимизируют обработку данных, снижая нагрузку на программные и аппаратные компоненты. Повышенная эффективность снижает требования к вычислительной мощности, способствуя более экологичным методам использования ИИ.
9. Инвестиции в энергетику: Например, компании могли бы сотрудничать с такими организациями, как EARTHLY, для оценки своего углеродного следа с использованием отраслевых стандартов, или использовать многочисленные пакеты и онлайн-инструменты, такие как CodeCarbon , Green Algorithms и ML CO2 Impact , которые доступны для оценки выбросов в коде во время выполнения. Они могли бы предоставлять индивидуальные предложения по стратегиям снижения выбросов углерода, позволяя компаниям отслеживать свое воздействие на окружающую среду через платформу.
Потребление энергии в поиске Google в год
Потребление энергии компанией Google в 2022 году выросло до 22.29 ТВт·ч по сравнению с 12.7 ТВт·ч в 2019 году.
Однако Google предприняла множество инициатив для решения проблемы энергопотребления. Компания взяла на себя обязательство обеспечивать свою деятельность на 100% возобновляемой энергией , инвестируя в проекты возобновляемой энергетики, такие как ветровые и солнечные электростанции, а также в проекты по компенсации выбросов углерода. Для компенсации выбросов углекислого газа компания сосредоточилась на повышении энергоэффективности своих центров обработки данных и других объектов.
На графике ниже показано потребление энергии Google за период с 2018 по 2022 год.
Мы приветствуем технологические достижения, но крайне важно знать энергопотребление моделей ИИ, таких как ChatGPT от OpenAI, обрабатывающих миллионы запросов каждый день. Оно зависит от таких факторов, как размер модели, сложность задач и используемое для вычислений оборудование. Кроме того, для создания устойчивого мира можно изучить положительное и отрицательное воздействие искусственного интеллекта на окружающую среду.
