Por qué la refrigeración líquida para centros de datos de IA es más difícil de lo que parece

Si bien la refrigeración líquida para centros de datos se considera, con razón, una tecnología emergente, no es nueva. Los primeros mainframes de IBM de la década de 1960 y las supercomputadoras Cray ya contaban con refrigeración líquida. Cabe destacar que la compra del sistema Cray incluía un técnico a tiempo completo para su instalación, operación y mantenimiento.

Por qué la IA está acelerando la demanda de refrigeración líquida

Hoy en día, la IA generativa está transformando el diseño de los centros de datos y computación . Los servidores de computación acelerada incorporan entre dos y dieciséis unidades de procesamiento gráfico (GPU) por servidor, además de unidades centrales de procesamiento (CPU) e incluso unidades de procesamiento de datos (DPU). Estos servidores son potentes procesadores optimizados para el entrenamiento de modelos de IA, pero consumen más de veinte veces la energía de los servidores en la nube con CPU Intel estándar y generan veinte veces más calor por servidor.

Esta emisión de calor implica que estos servidores solo pueden refrigerarse con líquido. La mayoría ahora vienen equipados de serie con tuberías de entrada y salida para la circulación del refrigerante líquido.

Una gota de agua sirve como representación abstracta de la refrigeración líquida para centros de datos de IA.

Gestión del calor: Potencia, densidad y desafíos de diseño.

Las exigencias térmicas de los racks han aumentado considerablemente con cada nueva generación de servidores acelerados por GPU. Cuando están completamente instalados en un rack, los servidores GPU más recientes basados ​​en NVIDIA requieren 132 kW de potencia, y la densidad de instalación sigue en aumento. La próxima generación, prevista para dentro de menos de un año, requerirá 240 kW por rack.

El método de refrigeración predominante es la refrigeración directa al chip, o refrigeración por placa fría. Sin embargo, como su nombre indica, solo refrigera los chips, no el resto de los componentes del chasis o rack. Dado que los sistemas de refrigeración líquida solo refrigeran los chips, la refrigeración por aire complementaria aún cubre entre el 20 % y el 30 % de la carga térmica total.

La refrigeración es una arquitectura compleja.

Tanto si eres una gran empresa como un operador de centros de datos con amplia experiencia, es improbable que cuentes con los conocimientos internos necesarios para diseñar e implementar sistemas de refrigeración híbridos (líquidos y por aire) a estas densidades extremas. La experiencia especializada es fundamental para el diseño, la adquisición, la implementación, la operación y el mantenimiento de dichos sistemas.

Los sistemas de refrigeración directa al chip requieren dos circuitos de refrigeración independientes: uno para la sala de TI y otro para la disipación del calor. Las unidades de distribución de refrigeración (CDU) conectan ambos circuitos. Al diseñar estos sistemas, es fundamental elegir un socio con experiencia en la arquitectura de refrigeración completa: colectores, tuberías, CDU, enfriadoras, bombas y armarios.

Estos componentes deben funcionar conjuntamente, lo que requiere compatibilidad, controles integrados y optimización del rendimiento. Elija proveedores con experiencia en tuberías, dinámica de fluidos, presión y caudales; idealmente, que ofrezcan garantías y cuenten con certificaciones de fabricantes de GPU.

El papel de la simulación y el software

Dadas las extremas densidades de calor, los métodos de ensayo y error prolongarán el tiempo de enfriamiento y reducirán las probabilidades de éxito. Elija un socio que utilice modelos y simulaciones de gemelos digitales para validar virtualmente el diseño del sistema de refrigeración del centro de datos de alta densidad antes de su implementación.

Se debe dar prioridad a los proveedores que trabajan directamente con fabricantes de GPU y que han realizado pruebas de laboratorio o cuentan con implementaciones comprobadas. Algunos proveedores también ofrecen sistemas de refrigeración prediseñados y prefabricados, lo que acelera la implementación y reduce el riesgo.

El tiempo de inactividad no es una opción.

A estas densidades, incluso una breve interrupción en el flujo de líquido puede provocar estrangulamiento térmico o sobrecalentamiento en cuestión de segundos. Las unidades de decantación de refrigerantes deben incluir redundancia: las bombas y las fuentes de alimentación duales deben ser estándar.

Los sistemas de alimentación ininterrumpida deben ser compatibles con las unidades de distribución de corriente (CDU) para garantizar la continuidad durante las transiciones a sistemas de respaldo o generadores. El software de detección de fugas también es fundamental en el espacio no utilizado del centro de datos; incluso una pequeña fuga puede provocar la caída de un servidor o clúster.

La optimización también requiere IA.

Una vez en funcionamiento, su sistema de refrigeración líquida requiere un ajuste continuo. La precisión es fundamental: incluso pequeños aumentos de temperatura pueden degradar el rendimiento de la GPU y ralentizar el entrenamiento de los modelos de IA.

El software de IA puede ajustar dinámicamente los parámetros del sistema de refrigeración —como la temperatura del agua, el caudal y el flujo de aire— en tiempo real. Estos sistemas incluso pueden aprender de los datos operativos para optimizar su rendimiento con el tiempo.

Elija proveedores con visión de futuro.

El ritmo de la evolución de las GPU está imponiendo exigencias intensas a los proveedores de sistemas de refrigeración. Al seleccionar un socio, pregunte sobre sus planes tecnológicos: ¿podrán dar soporte a futuras generaciones de GPU con densidades térmicas aún mayores?

Aunque la refrigeración líquida aún se considera una tecnología emergente, se está convirtiendo rápidamente en una infraestructura esencial. Las empresas que buscan escalar la IA deben asociarse con proveedores capaces de satisfacer las necesidades de refrigeración líquida actuales y futuras.

Este artículo se publicó originalmente en Forbes .

Añadir comentario

Todos los campos son requeridos.