As emissões de gases de efeito estufa do treinamento ChatGPT-3 consomem mais de 50,000 galões de gasolina. Isso é preocupante, não é? Então, hoje vamos aprender fatos sobre o consumo de energia em modelos de IA e a importância da IA Generativa para um mundo mais sustentável.
Quanta energia o ChatGPT usa por dia?
O consumo de energia do modelo ChatGPT 3 por dia é de cerca de 2916 kWh.
Quando você insere palavras-chave em modelos de IA conversacional como ChatGPT (Generative Pretrained Transformer), com base na entrada recebida, o modelo gera uma resposta que imita dinamicamente os tipos humanos. No entanto, isso o processo requer acesso a recursos de computação de alto desempenho, incluindo CPUs potentes, GPUs ou aceleradores de IA especializados, como TPUs.
Para lidar com implantações em larga escala e acomodar altos volumes de interações do usuário, o GPT pode aproveitar técnicas de computação distribuída de sua 175 bilhões de parâmetros para pesquisa. Isso consome energia porque a Internet roda em servidores alinhados com hardware.
Pedimos ao próprio ChatGPT para determinar seu consumo diário, mas não obteve uma resposta confiável.
Então, temos que encontrar uma maneira de assumir o consumo de energia. Depois de passar por isso trabalho de pesquisa, treinar o modelo GPT-3 exigiu o equivalente a 405 anos de consumo de energia GPUs Nvidia V100, que são conhecidos por consome cerca de 300 W de energia. Em termos mais simples, seriam necessárias aproximadamente 405 GPUs V100 trabalhando simultaneamente por um ano para concluir o processo de treinamento.
Usando isso Fórmula, você pode encontrar o consumo de energia do ChatGPT 3, que é 300 W (consumo de energia V100) * 24 horas por dia * 365 dias por ano * 405 anos = 1064 MWh aproximadamente.
Isto resultou numa emissão de aproximadamente 460 toneladas métricas de CO2 equivalente.
Agora, usando isso Calculadora de equivalências de gases de efeito estufa, esses dados são equivalentes a
- Emissões de gases com efeito de estufa de 1,179,951 milhas percorridas por um veículo de passageiros movido a gasolina ou
- Emissões de CO2 do uso de energia de 58 residências por um ano
Consumo de energia diário do ChatGPT 3
O consumo de energia do GPT 3 por dia é de 300 W (consumo de energia V100) * 24 horas por dia * 405 anos = 2916 kWh aproximadamente
É igual a 1.3 toneladas de dióxido de carbono equivalente, o que é semelhante às emissões de CO2 de
- 1413 libras de carvão queimado ou
- 153,446 smartphones carregados
Observação: Esses números podem variar conforme o ChatGPT lança novas versões ao longo do tempo ou pode haver atualizações em metodologias e variáveis.
Quanta energia o ChatGPT consome por mês
O consumo de energia do GPT 3 por mês pode ser calculado como
300 W (consumo de energia V100) * 24 horas por dia * 30 dias (em média) * 405 anos = 87,480 kWh aproximadamente.
- Consumo de energia de 4 casas durante 1 ano
- Isso é comparável às emissões de gases de efeito estufa produzidas ao dirigir um veículo de passageiros movido a gasolina por 97,013 quilômetros.
- Isso equivale às emissões de CO2 geradas pelo consumo de 3,717 galões de óleo diesel.
Após saber essas informações, o interesse está em saber o uso de energia do Open AI ChatGPT por consulta, mas pode não ser aconselhável simplesmente dividir a energia consumida para treinar o ChatGPT (1064 MWh) pelo número de consultas em um único dia. Algoritmos treinados podem ser utilizados várias vezes ao longo de vários dias, tornando-o desafiador rastrear com precisão o número de consultas do ChatGPT ao longo do tempo.
Leia também: Os Data Centers sedentos do ChatGPT estão drenando os recursos hídricos
Quanta eletricidade ou energia a IA consome?
As tendências atuais de uso de energia da IA sugerem que a tecnologia pode consumir até 29.3 TWh de eletricidade anualmente. Isso é equivalente ao consumo anual total de eletricidade de todo o país da Irlanda.
Até 2027, o uso global de eletricidade relacionado à IA poderá aumentar em 85.4–134.0 TWh anualmente, impulsionado principalmente por servidores recém-fabricados. Esse aumento é comparável ao consumo anual de eletricidade de países como Holanda, Argentina e Suécia.
Como tornar a IA generativa mais ecológica
Você pode seguir estas dicas para tornar a IA Generativa mais ecológica:
1. Aproveite grandes modelos generativos em vez de criar novos: Empresas, exceto grandes fornecedores ou provedores de nuvem, não precisa criar grandes modelos. Essas empresas geralmente têm os dados e muito poder de computação na nuvem, então não precisam passar pelo incômodo de construí-los. Isso reduz a necessidade de treinamento extensivo, que consome recursos computacionais significativos.
2. Implementar métodos computacionais de conservação de energia: O processamento local em microcontroladores minúsculos economiza o consumo de energia mil vezes mais eficientemente sem transferir dados para servidores externos. Por exemplo, use técnicas como regularização de escassez or aritmética de baixa precisão e TinyML para processamento de dados para reduzir a carga de trabalho computacional.
3. Aplique o modelo grande somente quando ele oferecer importância: Evite usar modelos desnecessariamente grandes para tarefas em que modelos menores são suficientes. Antes de recorrer ao aprendizado de máquina ou inteligência artificial, os desenvolvedores devem explorar várias soluções alternativas por meio de pesquisa e análise. Somente quando um modelo grande fornece valor substancial ele deve ser considerado, garantir que os recursos sejam usados de forma eficiente para resolver o problema em questão.
4. Seja seletivo sobre quando usar IA generativa: Tenha cuidado ao empregar IA generativa, especialmente para tarefas como gerar posts de blog ou histórias divertidas, que podem não justificar os pesados recursos computacionais necessários. Evite implementar modelos generativos para tarefas em que métodos mais simples e tradicionais são suficientes, reduzindo assim o consumo desnecessário de energia.
5. Promova fontes de energia para provedor de nuvem ou data center: Apoiar iniciativas para usar fontes de energia renováveis para alimentar infraestrutura e operações de IA, a fim de minimizar a intensidade de carbono da IA e do software.
6. Reutilize recursos: Reutilizar a tecnologia sempre que possível e reciclando materiais para componentes de tecnologia mais recentes, como laptops e processadores, também minimiza o impacto ambiental da extração de recursos.
7. Inclua a atividade de IA no seu monitoramento de carbono: Acompanhe o a pegada de carbono dessa embalagem foi reduzida em associados às suas atividades de IA, incluindo processos de treinamento e inferência. As empresas devem divulgar os dados de monitoramento de carbono para permitir decisões informadas pelos clientes sobre engajamentos relacionados à IA. O cálculo de emissões depende de dados de fornecedores e empresas de processamento, como laboratórios de pesquisa e provedores de serviços de IA, como a OpenAI.
8. Explore técnicas de algoritmos inteligentes: Invista em pesquisa e desenvolvimento de algoritmos de eficiência energética para IA generativa. Eles orientam o software na interpretação de visuais e áudio, permitindo que eles obtenham insights. Eles são como receitas, orientando software e hardware como chefs e utensílios de cozinha, respectivamente. Assim como a receita simplifica as tarefas de cozimento, algoritmos eficientes otimizam o processamento de dados, reduzindo a carga de trabalho em componentes de software e hardware. A eficiência aprimorada diminui os requisitos de poder de computação, contribuindo para práticas de IA mais ecológicas.
9. Invista em energia: Por exemplo, as empresas poderiam fazer parcerias com organizações como TERRENO para avaliar sua pegada de carbono usando padrões da indústria ou usar vários pacotes e ferramentas online, como Código Carbono, Algoritmos Verdes e Impacto de CO2 do ML, que são acessíveis para estimar emissões dentro do seu código durante o tempo de execução. Eles forneceriam propostas personalizadas para estratégias de mitigação de carbono, permitindo que as empresas monitorassem seu impacto ambiental por meio da plataforma.
Veja também: Tecnologia de IA da Neara, sediada na Austrália, para proteger serviços públicos de condições climáticas extremas
Pesquisa Google Consumo de energia por ano
O consumo de energia do Google aumentou para 22.29 TWh no ano de 2022, acima dos 12.7 TWh em 2019.
No entanto, o Google empreendeu muitas iniciativas para abordar seu consumo de energia. Ele tem comprometida em alimentar suas operações com energia 100% renovável investindo em projetos de energia renovável, como parques eólicos e solares, e projetos de compensação de carbono. Para compensar suas emissões de carbono, ela está se concentrando em melhorar a eficiência energética de seus data centers e instalações.
O gráfico abaixo mostra o consumo de energia do Google para os anos de 2018 a 2022
Nós abraçamos os avanços tecnológicos, mas é essencial conhecer a pegada energética de modelos de IA como o ChatGPT da OpenAI, que lida com milhões de consultas todos os dias. Depende de fatores como o tamanho do modelo, a complexidade das tarefas e o hardware usado para computação. Além disso, para criar um mundo sustentável, você pode conferir o impacto ambiental positivo e negativo da inteligência artificial.
