El procesador central (CPU) vuelve a estar en el corazón de las infraestructuras de inteligencia artificial, impulsadas por el desarrollo de los agentes IA. Según una previsión citada por el artículo, el mercado de CPU debería pasar de 26 mil millones de dólares en 2025 a 246 mil millones de dólares cinco años después, un crecimiento impulsado principalmente por las CPU que alojan IA y por los entornos de ejecución de los agentes. En este contenido patrocinado por Arm, la empresa defiende una nueva forma de medir el rendimiento de estas máquinas.
- La CPU vuelve al centro de las infraestructuras de IA gracias a los agentes.
- Arm propone evaluar las CPU en tres niveles : socket, sistema y rack.
- La métrica clave es cuántas tareas completas se logran dentro del límite de potencia de una rack.
- Un estudio encargado por Arm sitúa su AGI CPU en aproximadamente el doble de rendimiento por rack que el AMD EPYC 9755.
Durante varios años, los procesadores gráficos (GPU) y los demás procesadores especializados (XPU), muy paralelos, fueron privilegiados para los cálculos relacionados con el aprendizaje automático, antes de que la CPU, que domina la informática comercial desde seis décadas, volviera a ganar importancia. Sin embargo, la elección no es sencilla: no todas las CPU son iguales, y los hyperscalers, los proveedores de nube, los desarrolladores de modelos y las empresas deben equilibrar entre el número de referencias de procesadores que aceptan usar y la búsqueda de una adecuación precisa con sus cargas de trabajo.
Medir de otra manera el rendimiento
Según Arm, la cuestión, a escala de un centro de datos, es saber cuántas tareas exitosas pueden completarse dentro de los límites de potencia y térmicos de una rack. Por lo tanto, la empresa recomienda evaluar las CPU en tres niveles: el socket, el sistema y la rack. La industria informática ya ha enfrentado este tipo de complejidad, recuerda el artículo, particularmente con el benchmark TPC‑E, que simulaba el funcionamiento de un almacén físico, con sus carretillas elevadoras, y combinaba cargas interactivas y procesamientos por lotes en varios niveles.
Jeff Defilippi, Senior Director, Product Management en Arm, subraya que « la multiplicación de niveles y la gestión de estados no son nuevas ». Lo que cambia con los agentes, explica, es « la forma en que los componentes se ensamblan ». Una sola tarea puede encadenar llamadas a modelos, búsqueda de información, transacciones de bases de datos, ejecución de código y llamadas a herramientas, cuyo resultado en una etapa determina la siguiente. « Así que ya no es una medida aislada lo que cuenta, sino el éxito de la tarea completa », afirma.
Arm no propone, sin embargo, un benchmark único para la IA agente. La empresa defiende una metodología que combina pruebas de componentes establecidas, como InferenceX y TPCx‑AI, con métricas propias de las cargas agentes y una evaluación de extremo a extremo. Estas pruebas no cubren la orquestación en CPU, la gestión de estado, la ejecución de herramientas o la seguridad. « El objetivo es una visión global del flujo agente, manteniendo métricas por componente », precisa Jeff Defilippi. Añade que la empresa no « anuncia un benchmark específico para un clúster AGI CPU », sino que define « el marco de cargas de trabajo y métricas ».
Latencia y concurrencia
En un bucle agente, la latencia secuencial, dominio de la CPU, constituye una restricción clave. El procesador debe esperar a que los GPU o XPU procesen los tokens, es decir, los fragmentos de texto manipulados por los modelos, antes de lanzar consultas, herramientas o generación de código. « El rendimiento mono‑thread importa porque muchas partes del bucle son sensibles a la latencia », observa Jeff Defilippi, quien sin embargo advierte: « es solo una dimensión ». El número de núcleos, el ancho de banda de memoria y la eficiencia del scheduling se vuelven esenciales a medida que aumenta el número de agentes simultáneos.
Arm propone finalmente vincular estas métricas a la potencia disponible en una rack. « Las tareas por rack y la energía por tarea se vuelven importantes junto al rendimiento a nivel de CPU », explica Jeff Defilippi. Según él, más tareas realizadas dentro de la misma envoltura de potencia pueden traducirse en una mejor economía de infraestructura. La empresa estima que este marco debería seguir siendo relevante durante cuatro o cinco años, un período que corresponde al tiempo durante el cual las máquinas instaladas hoy permanecerán en servicio.
Arm ha encargado a un tercero independiente comparar su AGI CPU con el AMD EPYC Turin en las partes del flujo agente ejecutadas por la CPU, particularmente la herramienta, la orquestación y el razonamiento. Según el artículo, los resultados, basados en mediciones a nivel de servidor, muestran aproximadamente el doble del rendimiento por rack en comparación con el AMD EPYC 9755.
