Die zentrale Verarbeitungseinheit (CPU) rückt wieder in den Mittelpunkt der KI-Infrastrukturen, angetrieben durch die Entwicklung von KI-Agenten. Laut einer in dem Artikel zitierten Prognose soll der CPU-Markt von 26 Milliarden Dollar im Jahr 2025 auf 246 Milliarden Dollar fünf Jahre später wachsen, ein Wachstum, das vor allem von KI-Host-CPUs und den Ausführungsumgebungen für Agenten getrieben wird. In diesem von Arm gesponserten Inhalt verteidigt das Unternehmen eine neue Art, die Leistung dieser Maschinen zu messen.
Über mehrere Jahre hinweg wurden hochgradig parallele Grafikprozessoren (GPU) und andere spezialisierte Prozessoren (XPU) für Machine-Learning-Berechnungen bevorzugt, bevor die CPU, die seit sechs Jahrzehnten die kommerzielle Datenverarbeitung dominiert, wieder an Bedeutung gewann. Die Wahl ist jedoch nicht einfach: Nicht alle CPUs sind gleichwertig, und Hyperscaler, Cloud-Anbieter, Modellentwickler und Unternehmen müssen abwägen zwischen der Anzahl der Prozessormodelle, die sie nutzen wollen, und der Suche nach einer präzisen Passung für ihre Workloads.
Leistung anders messen
Laut Arm geht es in Rechenzentrumsmaßstab darum, wie viele erfolgreiche Aufgaben innerhalb der Leistungs- und thermischen Grenzen eines Racks erledigt werden können. Das Unternehmen empfiehlt daher, CPUs auf drei Ebenen zu bewerten: Socket, System und Rack. Die IT-Branche habe bereits solche Komplexitäten bewältigt, erinnert der Artikel, etwa mit dem TPC-E-Benchmark, der den Betrieb eines physischen Lagers mit Gabelstaplern simulierte und interaktive Lasten mit Batch-Verarbeitung über mehrere Ebenen mischte.
Jeff Defilippi, Senior Director, Product Management bei Arm, betont, dass « die Vervielfachung der Ebenen und die Zustandsverwaltung nichts Neues sind ». Was sich mit Agenten ändere, erklärt er, sei « die Art und Weise, wie die Komponenten zusammengesetzt werden ». Eine einzige Aufgabe könne Modellaufrufe, Informationssuche, Datenbanktransaktionen, Codeausführung und Tool-Aufrufe verketten, wobei das Ergebnis eines Schritts den nächsten bestimme. « Es zählt also nicht mehr eine isolierte Messung, sondern der Erfolg der gesamten Aufgabe », sagt er.
Arm schlägt jedoch keinen einzelnen Benchmark für agentische KI vor. Das Unternehmen verteidigt eine Methodik, die etablierte Komponententests wie InferenceX und TPCx-AI mit Messungen für agentische Lasten und einer Ende-zu-Ende-Bewertung kombiniert. Diese Tests decken nicht die Orchestrierung auf der CPU, die Zustandsverwaltung, die Tool-Ausführung oder die Sicherheit ab. « Das Ziel ist eine ganzheitliche Sicht auf den agentischen Fluss bei gleichzeitiger Beibehaltung von Komponentenmessungen », präzisiert Jeff Defilippi. Er fügt hinzu, dass das Unternehmen « keinen spezifischen Benchmark für einen AGI-CPU-Cluster ankündigt », sondern « den Rahmen für Workloads und Messungen definiert ».
Latenz und Parallelität
In einer agentischen Schleife stellt die sequenzielle Latenz, Domäne der CPU, eine Schlüsselbeschränkung dar. Die CPU muss warten, bis GPUs oder XPUs die Tokens – die von Modellen verarbeiteten Textfragmente – verarbeitet haben, bevor sie Abfragen, Tools oder Codegenerierung starten kann. « Die Single-Thread-Leistung zählt, weil viele Teile der Schleife latenzsensitiv sind », beobachtet Jeff Defilippi, warnt aber: « Das ist nur eine Dimension ». Die Anzahl der Kerne, die Speicherbandbreite und die Effizienz der Ablaufplanung werden entscheidend, wenn die Anzahl gleichzeitiger Agenten steigt.
Arm schlägt schließlich vor, diese Messungen mit der in einem Rack verfügbaren Leistung zu verknüpfen. « Aufgaben pro Rack und Energie pro Aufgabe werden neben der Leistung auf CPU-Ebene wichtig », erklärt Jeff Defilippi. Ihm zufolge können mehr erledigte Aufgaben innerhalb desselben Leistungsbudgets zu einer besseren Infrastrukturokonomie führen. Das Unternehmen schätzt, dass dieser Rahmen vier bis fünf Jahre relevant bleiben sollte, eine Dauer, die der Lebensdauer entspricht, die heute installierte Maschinen im Einsatz bleiben.
Arm hat einen unabhängigen Dritten beauftragt, seinen AGI-CPU mit dem AMD EPYC Turin in den vom CPU ausgeführten Teilen des agentischen Flusses zu vergleichen, insbesondere Tooling, Orchestrierung und Reasoning. Laut dem Artikel zeigen die Ergebnisse, die auf Serverebene gemessen wurden, etwa die doppelte Leistung pro Rack im Vergleich zum AMD EPYC 9755.
