La creciente influencia de la inteligencia artificial (IA) no sólo plantea cuestionamientos éticos y tecnológicos, sino que también presenta diferentes desafíos en términos de consumo de energía.
PUBLICIDAD
Sergey Edunov, ingeniero jefe de inteligencia artificial generativa en Meta, empresa detrás de Facebook, lidera el entrenamiento del modelo de lenguaje de código abierto Llama 2.
Y fue durante una mesa redonda en Silicon Valley, que Edunov compartió su perspectiva sobre el consumo de energía de la IA generativa.
Recomendados
Trabajador de Tesla dormía en su auto para cumplir las metas de producción: Igual fue despedido
Esta técnica ilegal es usada por muchas personas para espiar teléfonos
Este es el “mini” ChatGPT de Microsoft que funciona en tu PC y smartphone sin estar conectado a...
Energía nuclear y la IA de Meta
De acuerdo al ingeniero y según recoge VentureBeat: “Nvidia lanzará entre un millón y dos millones de GPUs H100 el próximo año”.
“Si todas esas GPUs se usaran para generar ‘tokens’ para modelos de lenguaje de tamaño razonable, sumarían alrededor de 100 mil tokens por persona al día en todo el planeta”, añadió.
Explicando que “cada H100 consume unos 700 vatios; sumando refrigeración de los centros de datos, alrededor de 1 kW. No es tanto a escala humana, sólo harían falta dos reactores nucleares para alimentar todas esas H100″.
IA y sostenibilidad
A nivel global, la preocupación por el impacto ambiental de la IA va en aumento.
El uso intensivo de tarjetas gráficas y centros de datos contribuye directamente a las emisiones de gases de efecto invernadero.
Por eso, Meta no es la única empresa que explora la conexión entre la energía nuclear y la IA; Microsoft también ha anunciado planes similares para desarrollar reactores de fisión nuclear que alimenten sus centros de datos y sistemas de inteligencia artificial.
Asimismo, nuevas regulaciones, como las iniciativas gubernamentales en California y la propuesta de la Comisión Europea para que los centros de datos sean neutros en carbono para 2030, buscan hacer que las grandes empresas tecnológicas revelen y mitiguen su huella de carbono.
Estas medidas podrían acelerar la transición hacia el uso de energías sin emisiones en el sector de la IA, aunque aún falta un largo camino por recorrer.