Las emisiones de gases de efecto invernadero del entrenamiento de ChatGPT-3 consumen más de 50,000 galones de gasolina. Es preocupante, ¿verdad? Así que hoy aprenderemos sobre el consumo energético en los modelos de IA y la importancia de la IA Generativa para un mundo más sostenible.
¿Cuánta energía utiliza ChatGPT por día?
El consumo energético diario del modelo ChatGPT 3 es de aproximadamente 2916 kWh.
Al introducir palabras clave en modelos de IA conversacional como ChatGPT (Generative Pretrained Transformer), el modelo genera una respuesta dinámica que imita la forma de hablar humana, basándose en la información recibida. Sin embargo, este proceso requiere acceso a recursos informáticos de alto rendimiento, como potentes CPU, GPU o aceleradores de IA especializados como las TPU.
Para gestionar despliegues a gran escala y dar cabida a un alto volumen de interacciones de usuarios, GPT puede aprovechar las técnicas de computación distribuida de sus 175 mil millones de parámetros de búsqueda. Esto consume energía, ya que Internet funciona con servidores conectados al hardware.
Le pedimos a ChatGPT que determinara su consumo diario, pero no obtuvimos una respuesta creíble.
Así pues, debemos encontrar una forma de estimar el consumo energético. Tras analizar este artículo de investigación , se determinó que entrenar el modelo GPT-3 requería el equivalente al consumo energético de 405 años de las GPU Nvidia V100 , que consumen alrededor de 300 W. En otras palabras, se necesitarían aproximadamente 405 GPU V100 funcionando simultáneamente durante un año para completar el proceso de entrenamiento.
Utilizando esta fórmula , puede encontrar el consumo de energía de ChatGPT 3, que es 300W (consumo de energía V100)*24 horas por día * 365 días por año * 405 años = 1064 MWh aproximadamente.
Esto resultó en una emisión de aproximadamente 460 toneladas métricas de CO2 equivalente.
Ahora, utilizando esta calculadora de equivalencias de gases de efecto invernadero , estos datos son equivalentes a:
- Emisiones de gases de efecto invernadero de 1,179,951 millas recorridas por un vehículo de pasajeros promedio a gasolina o
- Emisiones de CO2 del consumo energético de 58 hogares durante un año
Consumo energético diario de ChatGPT 3
El consumo energético diario de GPT 3 es de aproximadamente 300 W (consumo de potencia V100) * 24 horas al día * 405 años = 2916 kWh.
Equivale a 1.3 toneladas de dióxido de carbono equivalente, lo que es similar a las emisiones de CO2 de
- 1413 libras de carbón quemado o
- 153,446 smartphones cargados
Nota : Estas cifras pueden variar a medida que ChatGPT publique nuevas versiones con el tiempo o pueda haber actualizaciones en las metodologías y variables.
¿Cuánta energía consume ChatGPT al mes?
El consumo energético de GPT 3 al mes se puede calcular como
300 W (consumo de energía V100) * 24 horas al día * 30 días (en promedio) * 405 años = 87,480 kWh aproximadamente.
- Consumo energético de 4 viviendas durante 1 año
- Esto es comparable a las emisiones de gases de efecto invernadero producidas al conducir un vehículo de pasajeros promedio impulsado con gasolina durante 97,013 millas.
- Esto equivale a las emisiones de CO2 generadas por el consumo de 3,717 galones de combustible diésel.
Tras conocer esta información, resulta interesante determinar el consumo energético de OpenAI ChatGPT por consulta, pero no es recomendable simplemente dividir la energía consumida para entrenar ChatGPT (1064 MWh) entre el número de consultas diarias. Los algoritmos entrenados pueden utilizarse varias veces a lo largo de varios días, lo que dificulta el seguimiento preciso del número de consultas de ChatGPT a lo largo del tiempo.
Lea también: Los centros de datos de ChatGPT, que consumen grandes cantidades de agua, están agotando los recursos hídricos.
¿Cuánta electricidad o energía consume la IA?
Las tendencias actuales en el consumo energético de la IA sugieren que esta tecnología podría consumir hasta 29.3 TWh de electricidad al año . Esto equivale al consumo total anual de electricidad de todo el país de Irlanda.
Para 2027, el consumo mundial de electricidad relacionado con la IA podría aumentar entre 85.4 y 134.0 TWh anuales , impulsado principalmente por los servidores de nueva fabricación. Este incremento es comparable al consumo anual de electricidad de países como los Países Bajos, Argentina y Suecia.
Cómo hacer que la IA generativa sea más ecológica
Puedes seguir estos consejos para que la IA generativa sea más ecológica:
1. Aprovechar los modelos generativos existentes en lugar de crear nuevos: Las empresas, salvo los grandes proveedores o los proveedores de servicios en la nube, no necesitan crear modelos complejos . Estas empresas suelen disponer de los datos y una gran capacidad de procesamiento en la nube, por lo que no tienen que preocuparse por desarrollarlos. Esto reduce la necesidad de una formación exhaustiva, que consume importantes recursos computacionales.
2. Implementar métodos computacionales de bajo consumo energético: El procesamiento local en microcontroladores diminutos ahorra energía de forma mucho más eficiente, sin necesidad de transferir datos a servidores externos. Por ejemplo, se pueden utilizar técnicas como la regularización de la escasez o la aritmética de baja precisión , y TinyML para el procesamiento de datos, con el fin de reducir la carga computacional.
3. Aplique modelos grandes solo cuando sean necesarios: Evite usar modelos innecesariamente grandes para tareas en las que modelos más pequeños sean suficientes. Antes de recurrir al aprendizaje automático o la inteligencia artificial, los desarrolladores deben explorar diversas soluciones alternativas mediante investigación y análisis. Solo se debe considerar un modelo grande cuando aporte un valor sustancial, garantizando así que los recursos se utilicen de manera eficiente para abordar el problema en cuestión.
4. Sea selectivo al usar IA generativa: Tenga cuidado al emplear IA generativa, especialmente para tareas como generar publicaciones de blog o historias divertidas, que tal vez no justifiquen los elevados recursos computacionales necesarios. Evite implementar modelos generativos para tareas en las que los métodos tradicionales más sencillos sean suficientes, reduciendo así el consumo innecesario de energía.
5. Promover fuentes de energía para proveedores de servicios en la nube o centros de datos: Apoyar iniciativas para el uso de fuentes de energía renovables para alimentar la infraestructura y las operaciones de IA, con el fin de minimizar la intensidad de carbono de la IA y el software.
6. Reutilizar los recursos: Reutilizar la tecnología siempre que sea posible y reciclar los materiales para componentes tecnológicos más nuevos, como ordenadores portátiles y procesadores, también minimiza el impacto ambiental de la extracción de recursos.
7. Incluya la actividad de IA en su monitoreo de carbono: Realice un seguimiento de la huella de carbono asociada a sus actividades de IA, incluidos los procesos de entrenamiento e inferencia. Las empresas deben publicar los datos de monitoreo de carbono para que los clientes puedan tomar decisiones informadas sobre las interacciones relacionadas con la IA. El cálculo de emisiones se basa en datos de proveedores y empresas de procesamiento, como laboratorios de investigación y proveedores de servicios de IA como OpenAI.
8. Explorar técnicas de algoritmos inteligentes: Invertir en investigación y desarrollo de algoritmos energéticamente eficientes para la IA generativa. Estos algoritmos guían al software en la interpretación de imágenes y audio, permitiéndole obtener información valiosa. Son como recetas que guían al software y al hardware, actuando como chefs y electrodomésticos, respectivamente. Del mismo modo que una receta simplifica las tareas culinarias, los algoritmos eficientes optimizan el procesamiento de datos, reduciendo la carga de trabajo en los componentes de software y hardware. Una mayor eficiencia disminuye los requisitos de potencia de cálculo, contribuyendo a prácticas de IA más sostenibles.
9. Invertir en energía: Por ejemplo, las empresas podrían asociarse con organizaciones como EARTHLY para evaluar su huella de carbono utilizando estándares de la industria, o usar numerosos paquetes y herramientas en línea, como CodeCarbon , Green Algorithms y ML CO2 Impact , que permiten estimar las emisiones dentro del código durante la ejecución. Estas herramientas ofrecen propuestas personalizadas para estrategias de mitigación de carbono, lo que permite a las empresas monitorear su impacto ambiental a través de la plataforma.
Véase también: La tecnología de IA de Neara, con sede en Australia, protegerá a las empresas de servicios públicos de las inclemencias del tiempo.
Consumo de energía anual según la búsqueda de Google
El consumo energético de Google se disparó hasta los 22.29 TWh en el año 2022, frente a los 12.7 TWh de 2019.
Sin embargo, Google ha emprendido numerosas iniciativas para abordar su consumo energético. Se ha comprometido a alimentar sus operaciones con energía 100% renovable mediante la inversión en proyectos de energía renovable, como parques eólicos y solares, y proyectos de compensación de carbono. Para compensar sus emisiones de carbono, se centra en mejorar la eficiencia energética de sus centros de datos e instalaciones.
El siguiente gráfico muestra el consumo energético de Google para los años 2018 a 2022.
Si bien valoramos los avances tecnológicos, es fundamental conocer el impacto energético de modelos de IA como ChatGPT de OpenAI, que procesa millones de consultas diarias. Este impacto depende de factores como el tamaño del modelo, la complejidad de las tareas y el hardware utilizado para el procesamiento. Además, para contribuir a un mundo sostenible, es importante analizar el impacto ambiental, tanto positivo como negativo, de la inteligencia artificial.
