A unidade central de processamento (CPU) está novamente no centro das infraestruturas de inteligência artificial, impulsionada pelo desenvolvimento dos agentes IA. Segundo uma previsão citada pelo artigo, o mercado de CPU deverá passar de 26 mil milhões de dólares em 2025 para 246 mil milhões de dólares cinco anos depois, um crescimento puxado sobretudo pelas CPU que hospedam as IA e pelos ambientes de execução dos agentes. Neste conteúdo patrocinado pela Arm, a empresa defende uma nova forma de medir o desempenho destas máquinas.
- A Arm defende que a CPU deve ser avaliada ao nível do socket, do sistema e do rack.
- Com agentes de IA, o que conta é o sucesso da tarefa completa, não uma medição isolada.
- A latência e a concorrência tornam-se decisivas, sobretudo o desempenho mono-thread e o número de núcleos.
- Segundo um teste independente, o AGI CPU da Arm oferece cerca do dobro do desempenho por rack face ao AMD EPYC 9755.
Durante vários anos, as unidades de processamento gráfico (GPU) e outros processadores especializados (XPU), altamente paralelos, foram privilegiados para os cálculos relacionados com o machine learning, antes que a CPU, que domina a informática comercial há seis décadas, recuperasse a sua importância. A escolha não é, no entanto, simples: nem todas as CPU são iguais, e os hyperscalers, os fornecedores de cloud, os desenvolvedores de modelos e as empresas têm de arbitrar entre o número de referências de processadores que aceitam utilizar e a procura de uma adequação precisa com as suas cargas de trabalho.
Medir o desempenho de outra forma
Segundo a Arm, a questão, à escala de um centro de dados, é saber quantas tarefas bem-sucedidas podem ser realizadas dentro dos limites de potência e térmicos de um rack. A empresa recomenda, portanto, avaliar as CPU a três níveis: o socket, o sistema e o rack. A indústria informática já enfrentou este tipo de complexidade, recorda o artigo, nomeadamente com o benchmark TPC-E, que simulava o funcionamento de um armazém físico, com os seus empilhadores, e misturava cargas interactivas e processamento por lotes em vários níveis.
Jeff Defilippi, Senior Director, Product Management na Arm, sublinha que « a multiplicação de níveis e a gestão de estados não são novidade ». O que muda com os agentes, explica, é « a forma como os componentes são montados ». Uma única tarefa pode encadear chamadas de modelos, pesquisa de informação, transações de base de dados, execução de código e chamadas de ferramentas, sendo o resultado de uma etapa a determinar a sequência. « Já não é uma medida isolada que conta, mas o sucesso da tarefa completa », afirma.
A Arm não propõe, no entanto, um benchmark único para a IA agentique. A empresa defende uma metodologia que combina testes de componentes estabelecidos, como InferenceX e TPCx-AI, com medições próprias das cargas agenticas e uma avaliação de ponta a ponta. Estes testes não cobrem a orquestração em CPU, a gestão de estado, a execução das ferramentas ou a segurança. « O objetivo é uma visão global do fluxo agentico, mantendo ao mesmo tempo medições por componente », especifica Jeff Defilippi. Acrescenta que a empresa não « anuncia um benchmark específico para um cluster AGI CPU », mas define « o quadro de cargas de trabalho e de medições ».
Latência e concorrência
Num ciclo agentico, a latência sequencial, domínio da CPU, constitui uma restrição chave. O processador tem de esperar que as GPU ou XPU processem os tokens, ou seja, os fragmentos de texto manipulados pelos modelos, antes de lançar consultas, ferramentas ou geração de código. « O desempenho mono-thread conta porque muitas partes do ciclo são sensíveis à latência », observa Jeff Defilippi, que alerta, no entanto: « é apenas uma dimensão ». O número de núcleos, a largura de banda da memória e a eficiência do escalonamento tornam-se essenciais à medida que o número de agentes simultâneos aumenta.
A Arm propõe, por fim, relacionar estas medições com a potência disponível num rack. « As tarefas por rack e a energia por tarefa tornam-se importantes ao lado do desempenho ao nível da CPU », explica Jeff Defilippi. Segundo ele, mais tarefas concluídas dentro do mesmo envelope de potência podem traduzir-se numa melhor economia de infraestrutura. A empresa estima que este quadro deverá manter-se relevante durante quatro a cinco anos, um período que corresponde ao tempo durante o qual as máquinas instaladas hoje permanecerão em serviço.
A Arm contratou um terceiro independente para comparar o seu AGI CPU com o AMD EPYC Turin nas partes do fluxo agentico executadas pela CPU, nomeadamente a ferramentaria, a orquestração e o raciocínio. Segundo o artigo, os resultados, estabelecidos a partir de medições ao nível do servidor, mostram cerca do dobro do desempenho por rack em comparação com o AMD EPYC 9755.
