En un contenido patrocinado por HPE y NVIDIA, las dos empresas presentan el concepto de «AI factory», una infraestructura integrada destinada a transformar datos en inteligencia de manera repetida y eficiente. Proponen tres fórmulas, desde la solución llave en mano hasta la arquitectura soberana, e insisten en que la elección debe partir de los usos y no del hardware.
Una infraestructura pensada a partir de los usos
Una AI factory agrupa todo el ciclo de vida de la IA: la ingesta de datos, el desarrollo de modelos, su entrenamiento, su adaptación (el fine-tuning), la inferencia, es decir, su ejecución, así como el seguimiento y la mejora continua. El texto precisa que esta integración debe servir tanto a un médico, un ingeniero o un servicio público como a una empresa. Elegir un procesador acelerado no basta: el cálculo debe corresponder al modelo económico, la red y los flujos de datos deben alimentar los aceleradores, el almacenamiento debe seguir el volumen de datos, y la seguridad, la gobernanza así como el compartir la infraestructura entre varios usuarios deben pensarse desde el principio. La alimentación eléctrica y la refrigeración deben, por último, seguir la densidad del sistema, hoy y mañana. Thierry Pienaar, HPE Fellow, vicepresidente y director técnico (CTO) para las ventas de HPC e IA, declara: «Sin la arquitectura, gobernanza y experiencia operativa apropiadas, las organizaciones no pueden explotar de forma segura sus datos, integrar la IA en los procesos centrales o transformar la innovación en una ventaja competitiva sostenible.»
Tres fórmulas según las necesidades
El portafolio HPE AI Factory with NVIDIA combina los aceleradores, la red y los softwares de IA de NVIDIA con la infraestructura, los softwares y los servicios de HPE. La primera oferta, HPE Private Cloud AI, es una solución llave en mano, instalada en las instalaciones del cliente, destinada al fine-tuning, al RAG (generación aumentada por recuperación, que vincula un modelo a documentos) y a la inferencia, con una necesidad que puede alcanzar 256 GPUs. La segunda, HPE AI Factory at-scale, se dirige a los creadores de modelos, a los proveedores de servicios y a las grandes empresas, con recursos que van desde unos pocos cientos hasta decenas de miles de GPU, un control centralizado y un funcionamiento multiinquilino, donde varios usuarios comparten una misma infraestructura. La tercera, HPE Sovereign AI Factory, retoma esta arquitectura añadiendo un control operativo más profundo, la seguridad y la residencia de los datos, así como configuraciones «air-gapped», aisladas de cualquier red exterior.
Explotar el conjunto como un solo sistema
A medida que la IA se desarrolla en una organización, los equipos tienen necesidades diferentes en recursos, niveles de servicio y perímetros de datos. Según el texto, una puesta en producción artificial, realizada a partir de componentes separados, exige competencias que muchos departamentos de informática nunca han tenido a esta escala. Un sistema mal diseñado puede funcionar técnicamente mientras es poco rentable: GPU infrautilizadas, cuellos de botella en los flujos de datos, restricciones de alimentación o refrigeración, o sistemas de gestión difíciles de explotar. «El portafolio HPE AI Factory with NVIDIA ofrece a las empresas una gama de soluciones de IA codesarrolladas con NVIDIA, respaldadas por la experiencia de ingeniería y las capacidades técnicas de HPE, para diseñar una AI factory adaptada a sus necesidades y optimizarla para el rendimiento a gran escala», precisa Thierry Pienaar.
Soberanía y acompañamiento
La nube, los entornos privados y los enfoques híbridos pueden todos jugar un papel en una estrategia de IA. Para las organizaciones sujetas a exigencias de soberanía, la elección depende sobre todo del nivel de control buscado: lugar de almacenamiento de los datos y los modelos, identidad de los administradores, jurisdicción aplicable, reglas de gobernanza y grado de aislamiento de las cargas de trabajo. Kaushik Shirhatti, vicepresidente, AI Factory en NVIDIA, declara: «Las herramientas de IA soberana de HPE y NVIDIA dan a una empresa, incluso a un Estado, un control completo sobre cómo se construyen, despliegan, explotan y gobiernan sus sistemas de IA.» El texto cita dos despliegues recientes: la TELUS Sovereign AI Factory, en Canadá, y una sovereign AI factory en la Universidad de Utah, en Estados Unidos. HPE AI Services acompaña a los clientes desde la planificación hasta la explotación, mientras que HPE Financial Services propone, entre otras cosas, amortizaciones aceleradas. Los dos socios remiten a la página HPE AI Factory para saber más.
