Gasto energético de la IA

[CarmenMa-7341-kXM03F]

https://www.eldiario.es/tecnologia/google-recurre-energia-nuclear-alimentar-centros-datos-ia_1_11733799.html
Esta noticia me ha parecido muy interesante, va sobre como Google encarga varios reactores nucleares modulares para potenciar sus centros de inteligencia artificial. Realmente nunca me había planteado que la inteligencia artificial y en general todo lo que rodea a la gestión de datos consumiera tanta energía. ¿Pensabais que esto era así?

[VET-Marc]

¡Hola Carmen!

Esta noticia que compartes es muy interesante.
Os planteo unas cuantas preguntas que podéis intentar contestar en este mismo hilo o que os pueden servir para enriquecer vuestros trabajos.

¿Por qué creéis que empresas como Google necesitan cantidades de energía tan grandes para manejar datos e IA? ¿Qué lo hace tan costoso?

¿Qué os parece esta nueva huella de carbono que está dejando este consumo de energía masivo para potenciar la IA? ¿Es éticamente justificable? (pues la IA también puede ser usada para ahorrar energía o incluso salvar vidas)

Si alguien más quiere contestar a este mismo hilo o abrir uno nuevo con noticias o artículos que sean de interés, ¡que no dude en hacerlo!
Podéis iros haciendo esta clase de preguntas entre vosotros para mejorar conjuntamente.

¡Mucha suerte!

[Izan-5735-2zGb5Y]

¡Hola chicos!

No voy a mentir, no soy nuevo en el mundillo, pero tampoco el mejor. Primero decir que me ha sorprendido la noticia que ha compartido Carmen con nosotros, y es que conozco las necesidades eléctricas de todos los programas basados en redes neuronales y aprendizaje autónomo, pero no sabía que Google había ido tan lejos.

Respondiendo a las preguntas de Marc (o al menos intentándolo), según mis conocimientos el gran consumo de energía no tiene otro motivo que la necesidad de procesamiento simultáneo, comúnmente llevado a cabo en gráficas de servidor, como tarjetas gráficas Tesla o Quadro, entre muchas otras de la marca NVIDIA (no la única, pero si de las más importante); o incluso creando sus propias unidades de procesamiento Tensor como hace Google con sus TPUs.
El único problema, claro, es que al tener la capacidad de procesar tantos datos, terminan requiriendo mucha energía aún teniendo arquitecturas de unos pocos nanómetros (siendo más efectivas al tener menos superficie resistiva, y por tanto no perdiendo energía en forma de calor).

Por otro lado, entrando en el debate de la huella de carbono, creo que sinceramente se podrían aprovechar algunos recursos o aprovechar otras alternativas, ya que este excesivo consumo no viene solo dado por los propios procesadores de datos, sino también por sus gigantescos sistemas de refrigeración, que trabajan día y noche para mantener todo a su máximo potencial. Y si es verdad que se pueden utilizar algoritmos para ayudarnos en nuestra vida diaria, pero quizás tendríamos que intentar plantear primero como mantener esa vida...

Un saludo y la verdad un tema muy interesante. ¡Espero las respuestas de mis compañeros!

Enlaces de interés:
Gráficas Tesla: https://es.wikipedia.org/wiki/Nvidia_Tesla
Gráficas Quadro: https://www.nvidia.com/es-la/design-visualization/quadro-desktop-gpus/
NVIDIA: https://www.nvidia.com/es-es/
AMD: https://www.amd.com/es.html
Intel: https://www.intel.la/content/www/xl/es/homepage.html
Google TPUs: https://cloud.google.com/tpu?hl=es
¿Consume mucho ChatGPT?: https://www.reddit.com/r/OpenAI/comments/11fwfjg/what_kind_of_pc_would_you_need_to_have_a_model/?tl=es-es

[VET-Marc]

Buenas, Izan,

La aportación que has hecho es muy interesante y creo que está llena de valor para que la gente pueda tener un conocimiento general del tema más amplio.

De cara a quien esté leyendo esto, si aún no has hecho ninguna aportación al foro, recuerda que es necesaria para poder acceder a la próxima fase del programa.
Os animo a que respondáis al mensaje de Carmen, al de Izan o al mío mismo (tratando de responder a las preguntas que os planteo).

¡Nos vemos!

[Mireia-4912-pnjr4Y]

Hola a todos, es mi segunda aportación al foro, y espero que sea útil para vuestra mejora en el ámbito de los gastos energéticos de la IA.
Me han parecido bastante interesantes las dos preguntas de Marc, así que he investigado y he encontrado esta web que creo que os podría servir, con la cual he podido sacar información y responder a las dos preguntas.

LINK: https://www.desdeabajo.info/otras-noticias/item/aumenta-la-huella-de-carbono-de-google-por-que-consume-tanta-energia-la-inteligencia-artificial.html

RESPUESTAS:
¿Por qué creéis que empresas como Google necesitan cantidades de energía tan grandes para manejar datos e IA? ¿Qué lo hace tan costoso?:
Google requiere mucha potencia porque entrenar y utilizar modelos generativos de IA requiere servidores potentes para procesar una gran cantidad de datos. Estos servidores consumen electricidad para funcionar y enfriarse, porque generan mucho calor. Por ejemplo, una consulta a ChatGPT consume 10 veces más energía que una búsqueda en Google. El costo aumenta debido a la necesidad de infraestructura adicional y sistemas de refrigeración.

¿Qué os parece esta nueva huella de carbono que está dejando este consumo de energía masivo para potenciar la IA? ¿Es éticamente justificable? (pues la IA también puede ser usada para ahorrar energía o incluso salvar vidas):
La huella de carbono de la IA es motivo de preocupación; Las emisiones de Google aumentaron un 48% en cinco años gracias al auge de la IA. Los centros de datos ya consumen el 2% de la electricidad mundial y este porcentaje podría duplicarse. Aunque la IA tiene un impacto ambiental significativo, sus beneficios éticos y sociales, como ahorrar energía en otras industrias o salvar vidas, pueden justificar su uso.
   
¡MUCHAS GRACIAS, Y SUERTE A TODOS!!

[Andrs-8371-dRUX2F]

¡Buenas tardes!

He decidido indagar más profundamente en el tema y he encontrado un artículo sobre el impacto ambiental de la IA: https://www.iproup.com/innovacion/51664-inteligencia-artificial-como-impacta-su-uso-en-el-medio-ambiente

Este artículo aborda el tema principal sobre el impacto ambiental de la IA, y es que "Según analistas de Wells Fargo, para 2030, la demanda de electricidad de EE. UU. aumentaría un 20% debido a las exigentes necesidades de entrenamiento de la IA. Goldman Sachs, por su parte, estima que la IA representará el 8% del consumo energético de EE.UU. en 2030, comparado al 3% actual."

Aunque mirando más hacia el presente este calentamiento global gracias a la IA, según el artículo, es debido principalmente a: "Los centros de datos, donde se procesan y almacenan los modelos, los cuales hoy en día representan el principal desafío ambiental, ya que requieren de energía para entrenar modelos de lenguaje que es mayor a la de un microchip promedio y emite incluso más calor."

¿Que opinais vosotros? ¿Creéis que se podría hacer algo para evitar este calentamiento global provocado por la IA?

Me encantaría saber vuestras respuestas...

Un saludo,
Andrés.

[Aina-4912-cW4J0N]

¡Hola!

¡Es fascinante, sin duda! La relación entre inteligencia artificial y el consumo energético es más estrecha de lo que parece. Los centros de datos que soportan estos sistemas requieren enormes cantidades de energía para procesar y almacenar información, además de mantener los servidores refrigerados. Esto explica por qué empresas como Google buscan alternativas como los reactores nucleares modulares, que son más sostenibles y eficientes a largo plazo.

Es cierto que no solemos pensar en el impacto ambiental de las tecnologías digitales, pero está claro que la transición hacia fuentes de energía más limpias será clave para el desarrollo responsable de la IA. ¿Qué opinas tú de esta solución?

[Linlin-1895-k67c7W]

Buenas tardes a todos,
Me parece muy curioso la noticia que ha mandado Carmen, yo pienso que la IA debe de consumir mucha energía porque produce mucha información, pero tampoco pensé que Google comprase reactores nucleares modulares para la IA.
A continuación voy a responder a Marc.
( 1 ) ¿Por qué creéis que empresas como Google necesitan cantidades de energía tan grandes para manejar datos e IA? ¿Qué lo hace tan costoso?
Porque la IA consume enormes cantidades de recursos computacionales debido a varios factores, entre ellos el tamaño y la complejidad de los modelos, la cantidad de datos requeridos para el entrenamiento y los cálculos involucrados en el entrenamiento y ejecución.
Los parámetros son los pesos y sesgos que se ajustan durante el entrenamiento para que el modelo aprenda a generar contenido útil. Cuantos más parámetros tenga un modelo, más complejo y “capaz” es, ya que tiene una mayor capacidad para aprender patrones detallados y representaciones complejas a partir de los datos. La cantidad masiva de parámetros requiere una mayor capacidad de procesamiento y memoria, ya que cada cálculo involucra cientos de miles de millones de operaciones matemáticas.
Estudios recientes señalan que, si la tendencia no cambia, la IA podría estar en camino de consumir anualmente tanta electricidad como todo el país de Irlanda (29,3 Tera vatios-hora por año). Este alto consumo, además, comporta la generación de CO2. Por ejemplo, el entrenamiento de Llama 3.12 en sus tres versiones (8B, 70B y 405B) ha generado 11390 toneladas de CO2.
https://observatorio-ametic.ai/es/inteligencia-artificial-en-sostenibilidad/el-consumo-energetico-de-la-ia-generativa
https://www.cell.com/joule/fulltext/S2542-4351(23)00365-3
( 2 ) ¿Qué os parece esta nueva huella de carbono que está dejando este consumo de energía masivo para potenciar la IA? ¿Es éticamente justificable? (pues la IA también puede ser usada para ahorrar energía o incluso salvar vidas)
Una huella de carbono es un rastro de gases de efecto invernadero (GEI) que dejan las actividades humanas se conoce como huella de carbono. Como dije anteriormente solo Llama 3.12 ha generado 11390 toneladas de CO2 y a mi me parece mal para nuestro planeta, ya que tanto CO2 puede causar impactos climáticos y medioambientales. Pero como dice Marc la IA puede ahorrar energía, como dice en esta página web: https://www.cadlan.com/noticias/ahorro-energetico-con-ia/
Y la IA también puede salvar vidas, como dice la página web a continuación: https://cadenaser.com/nacional/2024/04/27/la-inteligencia-artificial-salva-vidas-cadena-ser/

https://www.iberdrola.com/sostenibilidad/huella-de-carbono
https://www.ecoticias.com/co2/inteligencia-artificial-co2
Un saludo
Linlin

[Emma-0517-VUqd6R]

Buenos días a todos,
Es fascinante la relación entre el IA y el consumo energético, ja que es más grande de lo que parece. Por eso he investigado y he encontrado esta web muy interesante:
https://observatorio-ametic.ai/es/inteligencia-artificial-en-sostenibilidad/el-consumo-energetico-de-la-ia-generativa

Esta web analiza el alto consumo energético de la IA generativa, como los modelos de lenguaje y generación de imágenes. Nos informa sobre los grandes recursos que requieren computacionales tanto para entrenarse como para usarse, lo que genera una importante huella de carbono. También, se proponen soluciones como mejorar la eficiencia del hardware y el software, usar energías renovables en los centros de datos y desarrollar modelos más sostenibles. Además, se destaca la necesidad de regulaciones que fomenten una IA responsable y sostenible.

¿Que opinais vosotros? ¿Creéis que se podría hacer algo para evitar este calentamiento global provocado por la IA?

Me encantaría saber vuestras respuestas...