Las empresas de todos los sectores aprovechan cada vez más la inteligencia artificial (IA) para abordar tareas que implican una gran cantidad de datos que superan la capacidad humana, tanto en términos de velocidad como de viabilidad. Esta revolución de la IA está generando una demanda sin precedentes de potencia de cálculo en el edge, de forma muy similar al auge en la recopilación y el análisis de datos que ocurrió hace tan solo unos años. Sin embargo, la escala es ahora mucho mayor, ya que la IA requiere una densidad de racks muy superior en las instalaciones de edge computing. Aquí es donde se pueden utilizar los centros de datos modulares, que proporcionan la agilidad y escalabilidad que las organizaciones necesitan para seguir el ritmo del rápido crecimiento de la IA.
Se prevé que la IA crezca a un ritmo anual del 33% entre 2023 y 2030. Los recientes avances en IA generativa son fundamentales para el auge de la IA, ya que las organizaciones sustituyen o complementan las tareas humanas para impulsar la eficiencia y aumentar la productividad. Herramientas como ChatGPT y Microsoft Copilot democratizan el uso de la IA, permitiendo que casi cualquier persona de una organización aproveche la tecnología.
Las posibilidades de uso de la IA son casi ilimitadas, desde la sanidad hasta las finanzas, pasando por la fabricación, el transporte y el ocio. Tareas como crear presentaciones o compilar informes de ventas pueden ahora completarse rápidamente introduciendo datos relevantes en un motor de IA y pidiéndole que organice los datos de una manera específica.
Las empresas también están adoptando la tecnología de la IA para el análisis predictivo, la gestión inteligente de la cadena de suministro y una mayor personalización del servicio al cliente. Los requisitos de datos asociados a la IA están impulsando nuevas tecnologías de chips y servidores, lo que se traduce en densidades de potencia de rack mucho mayores. Al mismo tiempo, crece la demanda de potencia de cálculo de alta densidad.
Demanda de IA en el edge
La IA crea enormes oportunidades de negocio para desarrollar e implementar capacidades nuevas e interesantes . Sin embargo, también plantea importantes retos en cuanto a la forma de desplegar el hardware y la infraestructura necesarios en los centros de datos. Exige nuevos enfoques en el edge, como el despliegue de una infraestructura de centro de datos modular y escalable.
La razón para ubicar capacidades de IA en el edge es la misma que llevó a las empresas al edge en primer lugar:
- Mayor control y seguridad sobre los datos de la empresa
- Baja latencia para las tareas en tiempo real y casi real
La IA es muy intensiva en datos debido a sus dos tareas principales: formación e inferencia. La parte de formación implica alimentar un modelo con cantidades masivas de datos para mejorar la base de datos de conocimientos. Cuanta más información recibe el algoritmo, más inteligente se vuelve. Después, el modelo hace inferencias basadas en los datos para resolver problemas y completar tareas.
Retos de la infraestructura IT
Desde el punto de vista de la infraestructura, la potencia de cálculo necesaria es considerable. Pensemos que tradicionalmente un rack tenía una capacidad de 10 kW, pero ahora vemos peticiones de 50 kW a 100 kW. Schneider Electric, por ejemplo, está desarrollando un diseño de referencia que aprovecha racks de casi 90 kW. El diseño estará disponible a finales de 2024. Los servidores diseñados para la IA no solo cuentan con varios procesadores muy próximos, sino que también incorporan conjuntos de chips avanzados que mejoran la potencia de procesamiento y la eficiencia. Este tipo de densidad genera cantidades masivas de calor, que no se pueden abordar con la refrigeración por aire tradicional.
En su lugar, se introduce la tecnología de refrigeración líquida para disipar el calor del procesador. El agua u otro líquido se dirige a los chips a través de una unidad de distribución de refrigerante (CDU) para absorber el calor. A continuación, el líquido del circuito secundario se conduce a una unidad de refrigeración y de nuevo a la CDU. Esto repercute en la infraestructura, ya que se necesitan más tuberías y colectores para transportar el líquido a través de los racks y fuera del edificio. El soporte estructural necesario para un loop de agua fría independiente, además de los cables habituales de alimentación y fibra, se suma al reto del espacio en el centro de datos, que siempre es escaso. Consideremos ahora los retos que esto crea en los espacios compactos en el edge.
Con diversas cargas de trabajo, capacidades energéticas, soluciones de refrigeración mejoradas y complejas soluciones de racks IT, la infraestructura del centro de datos de IA de última generación adoptará un diseño con visión de futuro y una ingeniería dinámica.
Los centros de datos modulares al rescate
Se estima que las cargas de trabajo de IA representarán el 20% del consumo total de energía de los centros de datos en 2028. Las soluciones de centros de datos modulares pueden responder a las necesidades de las empresas de IA en el edge, proporcionando la infraestructura, la potencia computacional y eléctrica y la refrigeración necesarias para el entrenamiento y la inferencia de modelos de IA.
Cada unidad ofrece una infraestructura modular específica adaptada a casos de uso concretos. Los diseños, que estarán disponibles a finales de 2024, pueden escalarse en clústeres repetibles para su despliegue allí donde las organizaciones necesiten una infraestructura rápida, adaptable y escalable para alcanzar objetivos estratégicos de IA. De este modo, Schneider Electric ayuda a los clientes a resolver los desafíos de la IA para que puedan aprovechar plenamente la tecnología para ser más competitivos.
A medida que las aplicaciones y los casos de uso de la IA continúan expandiéndose, ya no es una cuestión de si las organizaciones necesitarán escalar su infraestructura IT para satisfacer las demandas de soluciones de IA hambrientas de datos/refrigeración/potencia, sino de cuándo lo harán. Para ayudar a su empresa a estar preparada para la IA, descubre nuestra web de recursos Transitioning to AI-Ready Data Centers, donde encontrarás las mejores prácticas, White papers, webinars y mucho más.
Añadir comentario