Las empresas deben tomar mejores decisiones para reducir las emisiones de GenAI
5 min read
Según el Instituto de Investigación Capgemini, los crecientes impactos ambientales de los sistemas de inteligencia artificial generativa (GenAI) pueden reducirse significativamente si las empresas “eligen el modelo correcto” en su uso e implementan prácticas sostenibles a lo largo de su ciclo de vida.
capgemini‘s Desarrollando GenAI sostenible El informe señala que para el último modelo de transformador de preentrenamiento generativo (GPT), el entrenamiento por sí solo equivale aproximadamente al consumo de energía anual de 5.000 hogares estadounidenses, lo que requiere “cantidades iguales o mayores de energía” para ejecutar el modelo. Efectivamente en un contexto empresarial.
Esto significa una pregunta de uno Grandes modelos de lenguaje (LLM) requiere 10 veces más potencia que una búsqueda en Google.
También añadió que, en el espacio de un año, el número de empresas que han integrado GenAI en sus productos y servicios ha aumentado del 6% al 24%. Además, estima que para 2026, GenAI representará el 4,8% de las emisiones totales de gases de efecto invernadero de una organización, frente a la tasa actual del 2,6%.
Capgemini también dijo que se utilizan aproximadamente 500 ml de agua cada vez para realizar una estimación de 20 a 50 preguntas usando LLM, y que GenAI podría generar de 1,2 a 5 millones de toneladas métricas de desechos electrónicos para 2030; Aproximadamente 1.000 veces más desechos electrónicos que los que se producirán en 2023.
“El aumento en el consumo de energía impulsado por la IA generativa está generando un aumento significativo de las emisiones, que se espera que casi se dupliquen como parte de la huella de carbono de la organización dentro de dos años”, dijo Vincent Charpiot, director de Group Sustainability Business Accelerator en Capgemini. “Es imperativo que las empresas integren la sostenibilidad en sus estrategias de IA.
“A través de modelos pequeños, energía renovable y prácticas transparentes de los proveedores de IA y GenAI, podemos reducir los impactos ambientales mientras utilizamos la IA para impulsar tanto la innovación como la sostenibilidad”.
Impacto ambiental
Desde la fabricación de unidades de procesamiento de gráficos (que requieren extracción de metales de tierras raras) hasta el entrenamiento de modelos para ejecutar centros de datos masivos, todos estos pasos contribuyen significativamente al impacto ambiental de la tecnología.
Para la mayoría de las empresas, el uso de productos y servicios GenAI entra dentro de sus emisiones de Alcance 3, que se refieren a las emisiones indirectas de gases de efecto invernadero que ocurren fuera de las operaciones de una empresa, pero que aún son resultado de sus actividades.
Sin embargo, Capgemini afirma que tomar las decisiones correctas en las diferentes etapas del ciclo de vida de un modelo (incluido el hardware, la arquitectura del modelo, las fuentes de energía para los centros de datos y su uso final) puede reducir significativamente el impacto ambiental.
Añadió que las empresas deberían considerar si necesitan tecnología GenAI que consuma mucha energía y puedan utilizar un modelo más eficiente en recursos para obtener los mismos resultados.
“Todo el mundo quiere hacer algo con la IA generativa, pero a veces ni siquiera es necesario”, afirmó Vishal Singhvi, director de IA generativa de Microsoft. “Esto se puede hacer muy bien con la IA tradicional, que consume mucha menos potencia informática y carga de trabajo”.
Modelo de lenguaje pequeño
Por lo tanto, las organizaciones deben considerar si las tareas se pueden realizar utilizando modelos de lenguaje pequeño (SLM), que se entrenan con conjuntos de datos más pequeños y específicos que los LLM.
Esto no sólo puede reducir significativamente las emisiones, sino también reducir los costos, afirmó Capgemini. Según Arthur Mensch, director ejecutivo de Mistral AI: “Los modelos más pequeños significan que las aplicaciones son menos costosas de ejecutar y, lo que es más importante, si tiene un modelo 100 veces más pequeño, puede llamarlo 100 veces más por el mismo costo, aportando un poco más de inteligencia a su aplicación con cada llamada. “
Para Mauli Tikkiwal, miembro de la junta directiva de Orchard Hill College and Academy Trust, con sede en el Reino Unido, es vital que las empresas sean conscientes de cómo el uso de GenAI está contribuyendo a los impactos ambientales negativos. “Primero, hay que identificar el impacto para poder rastrearlo y reducirlo”, dijo.
Sin embargo, monitorear y rastrear las emisiones es primordial: solo el 14% de los encuestados por Capgemini afirma que sus empresas miden y rastrean su huella GenAI.
Tres cuartas partes de los ejecutivos citaron la “transparencia limitada” de los proveedores como un desafío a la hora de medir el impacto ambiental. “Esperan que el sector tecnológico lidere los esfuerzos para facilitar ese objetivo”, dice el informe.
A pesar de esta tendencia, Capgemini destacó cómo algunas empresas tecnológicas están abordando la tecnología de manera sostenible.
Señaló, por ejemplo, que las últimas GPU de Nvidia son 30 veces más eficientes que sus versiones anteriores; que LiquidAI, una startup derivada del MIT, ha desarrollado técnicas de algoritmos “adaptativos y que consumen menos energía”; Y Microsoft introdujo funciones de monitoreo de energía en su LL.M.
También destacó la compra de energía geotérmica por parte de Meta para alimentar sus centros de datos en EE. UU., así como la suite Google Carbon Sense, que es “una colección de funciones que facilitan informar con precisión sus emisiones de carbono y reducirlas”.
Durante la Cumbre de IA celebrada en Londres en junio de 2024, los expertos en sostenibilidad dijeron que si bien la tecnología se puede implementar de muchas maneras para ayudar a las empresas a ser más sostenibles ambientalmente, debe haber un reconocimiento del impacto claramente negativo que está teniendo actualmente en el planeta. .
Dijeron que si bien puede ayudar a las empresas a gestionar mejor sus emisiones de Alcance 3 al conectar fuentes de datos y hacerlas más visibles, puede dificultar el seguimiento de estas emisiones en términos de cómo las empresas recopilan, gestionan y comparten sus datos.
