Las emisiones de gases de efecto invernadero del entrenamiento de ChatGPT-3 consumen más de 50,000 galones de gasolina. Es preocupante, ¿verdad? Así que hoy aprenderemos sobre el consumo energético en los modelos de IA y la importancia de la IA Generativa para un mundo más sostenible.
¿Cuánta energía utiliza ChatGPT por día?
El consumo energético del modelo ChatGPT 3 por día es de aproximadamente 2916KWh.
Al introducir palabras clave en modelos de IA conversacional como ChatGPT (Transformador Generativo Preentrenado), basándose en la entrada recibida, el modelo genera una respuesta que imita dinámicamente los tipos humanos. Sin embargo, esto... El proceso requiere acceso a recursos informáticos de alto rendimiento, incluidas potentes CPU, GPU o aceleradores de IA especializados como TPU.
Para manejar implementaciones a gran escala y dar cabida a grandes volúmenes de interacciones de usuarios, GPT puede aprovechar sus técnicas de computación distribuida. 175 mil millones de parámetros Para la búsqueda. Esto consume energía porque Internet funciona en servidores alineados con el hardware.
Le pedimos al propio ChatGPT que determinara su consumo diario, pero No obtuve una respuesta creíble.
Entonces, tenemos que encontrar una manera de calcular el consumo de energía. Después de analizar esto... trabajo de investigación, el entrenamiento del modelo GPT-3 requirió el equivalente a 405 años de consumo de energía de GPU Nvidia V100, que se sabe que consumen alrededor de 300 W de potenciaEn términos más simples, se necesitarían aproximadamente 405 GPU V100 funcionando simultáneamente durante un año para completar el proceso de entrenamiento.
Usando esto fórmula, puedes encontrar el consumo de energía de ChatGPT 3, que es 300W (consumo de energía V100) * 24 horas al día * 365 días al año * 405 años = 1064 MWh aproximadamente.
Esto resultó en una emisión de aproximadamente 460 toneladas métricas de CO2 equivalente.
Ahora, usando esto Calculadora de equivalencias de gases de efecto invernadero, estos datos son equivalentes a
- Emisiones de gases de efecto invernadero de 1,179,951 millas recorridas por un vehículo de pasajeros promedio a gasolina o
- Emisiones de CO2 del consumo energético de 58 hogares durante un año
Consumo energético diario de ChatGPT 3
El consumo de energía de GPT 3 por día es de 300 W (consumo de energía V100) * 24 horas por día * 405 años = 2916 KWh aproximadamente
Equivale a 1.3 toneladas de dióxido de carbono equivalente, lo que es similar a las emisiones de CO2 de
- 1413 libras de carbón quemado o
- 153,446 smartphones cargados
Nota: :Estas cifras pueden variar a medida que ChatGPT lanza nuevas versiones a lo largo del tiempo o podría haber actualizaciones en metodologías y variables.
¿Cuánta energía consume ChatGPT al mes?
El consumo energético de GPT 3 al mes se puede calcular como
300 W (consumo de energía V100) * 24 horas al día * 30 días (en promedio) * 405 años = 87,480 KWh aproximadamente.
- Consumo energético de 4 viviendas durante 1 año
- Esto es comparable a las emisiones de gases de efecto invernadero producidas al conducir un vehículo de pasajeros promedio impulsado con gasolina durante 97,013 millas.
- Esto equivale a las emisiones de CO2 generadas por el consumo de 3,717 galones de combustible diésel.
Tras conocer esta información, resulta interesante conocer el consumo de energía de Open AI ChatGPT por consulta. Sin embargo, puede que no sea recomendable simplemente dividir la energía consumida para el entrenamiento de ChatGPT (1064 MWh) entre el número de consultas en un solo día. Los algoritmos entrenados se pueden utilizar varias veces a lo largo de varios días, lo que facilita... Es un desafío rastrear con precisión la cantidad de consultas de ChatGPT a lo largo del tiempo.
Lea también Los sedientos centros de datos de ChatGPT están agotando los recursos hídricos
¿Cuánta electricidad o energía consume la IA?
Las tendencias actuales de uso de energía de la IA sugieren que la tecnología puede consumir hasta 29.3 TWh de electricidad al añoEsto equivale al consumo total anual de electricidad de todo el país de Irlanda.
Para 2027, el uso global de electricidad relacionada con la IA podría aumentar 85.4–134.0 TWh al año, impulsado principalmente por la nueva fabricación de servidores. Este aumento es comparable al consumo eléctrico anual de países como Países Bajos, Argentina y Suecia.
Cómo hacer que la IA generativa sea más ecológica
Puedes seguir estos consejos para que la IA generativa sea más ecológica:
1. Aprovechar grandes modelos generativos en lugar de crear nuevos: Las empresas, excepto los grandes proveedores o proveedores de nube, No es necesario crear modelos grandesEstas empresas suelen tener los datos y una gran capacidad de procesamiento en la nube, por lo que no tienen que complicarse con su desarrollo. Esto reduce la necesidad de una capacitación exhaustiva, que consume importantes recursos computacionales.
2. Implementar métodos computacionales de conservación de energía: El procesamiento local en microcontroladores diminutos ahorra mucho más energía sin transferir datos a servidores externos. Por ejemplo, utilice técnicas como regularización de escasez or aritmética de baja precisión, y TinyML para el procesamiento de datos para reducir la carga de trabajo computacional.
3. Aplicar el modelo grande solo cuando tenga importancia: Evite usar modelos innecesariamente grandes para tareas donde bastan modelos más pequeños. Antes de recurrir al aprendizaje automático o la inteligencia artificial, los desarrolladores deben explorar diversas soluciones alternativas mediante investigación y análisis. Solo cuando un modelo grande aporte un valor sustancial, debe considerarse. garantizar que los recursos se utilicen eficientemente para abordar el problema en cuestión.
4. Sea selectivo al utilizar IA generativa: Tenga cuidado al emplear IA generativa, especialmente para tareas como generar entradas de blog o historias divertidas, que podrían no requerir los elevados recursos computacionales necesarios. Evite implementar modelos generativos para tareas donde los métodos tradicionales más sencillos sean suficientes, reduciendo así el consumo innecesario de energía.
5. Promover fuentes de energía para proveedores de nube o centros de datos: Apoyar iniciativas para utilizar fuentes de energía renovables para impulsar la infraestructura y las operaciones de IA, a fin de minimizar la intensidad de carbono de la IA y el software.
6. Reutilizar recursos: Reutilizar la tecnología siempre que sea posible y materiales de reciclaje Para componentes tecnológicos más nuevos, como computadoras portátiles y procesadores, también se minimiza el impacto ambiental de la extracción de recursos.
7. Incluya la actividad de IA en su monitoreo de carbono: Rastrea el la huella de carbono de este pack fue reducida un Asociado con sus actividades de IA, incluyendo los procesos de entrenamiento e inferencia. Las empresas deben publicar los datos de monitoreo de carbono para que los clientes puedan tomar decisiones informadas sobre las interacciones con IA. El cálculo de emisiones se basa en datos de proveedores y empresas de procesamiento, como laboratorios de investigación y proveedores de servicios de IA como OpenAI.
8. Explorar técnicas de algoritmos inteligentes: Invertir en investigación y desarrollo de algoritmos energéticamente eficientes para la IA generativa. Estos guían al software en la interpretación de imágenes y audio, permitiéndole obtener información valiosa. Son como recetas: guían al software y al hardware, como chefs y electrodomésticos, respectivamente. Así como las recetas agilizan las tareas culinarias, Los algoritmos eficientes optimizan el procesamiento de datos, reduciendo la carga de trabajo En componentes de software y hardware. Una mayor eficiencia reduce los requisitos de potencia de procesamiento, lo que contribuye a prácticas de IA más ecológicas.
9. Invertir en energía: Por ejemplo, las empresas podrían asociarse con organizaciones como TERRENAL para evaluar su huella de carbono utilizando estándares de la industria, o utilizar numerosos paquetes y herramientas en línea, como CódigoCarbono, Algoritmos verdes, y Impacto del CO2 de ML, accesibles para estimar emisiones dentro del código durante la ejecución. Ofrecerán propuestas personalizadas para estrategias de mitigación de carbono, lo que permitirá a las empresas monitorear su impacto ambiental a través de la plataforma.
Consumo de energía anual según la búsqueda de Google
El consumo de energía de Google aumentó a 22.29 TWh en el año 2022, frente a los 12.7 TWh de 2019.
Sin embargo, Google ha emprendido muchas iniciativas para abordar su consumo de energía. Ha comprometida a impulsar sus operaciones con energía 100% renovable Invirtiendo en proyectos de energía renovable, como parques eólicos y solares, y en proyectos de compensación de carbono. Para compensar sus emisiones de carbono, se centra en mejorar la eficiencia energética de sus centros de datos e instalaciones.
El siguiente gráfico muestra el consumo energético de Google para los años 2018 a 2022.
Aceptamos los avances tecnológicos, pero es fundamental conocer el consumo energético de modelos de IA como ChatGPT de OpenAI, que gestiona millones de consultas diarias. Depende de factores como el tamaño del modelo, la complejidad de las tareas y el hardware utilizado para el cálculo. Además, para crear un mundo sostenible, puedes consultar... Impacto ambiental positivo y negativo de la inteligencia artificial.
