AMD optimiert seine CPUs für agentische KI mit den Epyc-Venice-Prozessoren

AMD optimiert seine CPUs für agentische KI mit den Epyc-Venice-Prozessoren
3 Minuten Lesezeit

AMD stellt seine Serverprozessoren der sechsten Epyc-Generation, Codename «Venice», im Detail vor und präsentiert sie als geeignet für Workloads agentischer KI. Laut dem Unternehmen bieten diese Chips einen 1,9-fach höheren Durchsatz als die Prozessoren der Vorgängergeneration Epyc 9005 «Turin».

Diese Ankündigung erfolgt zu einem Zeitpunkt, an dem agentische KI, bei der ein System Schritte zur Zielerreichung verkettet, rasant wachsen soll. Einige Analystenhäuser prognostizieren ein jährliches Wachstum von fast 43 % bis 2034. Laut dem Beitrag verändert diese Entwicklung auch die Infrastruktur von Rechenzentren. Die aufeinanderfolgenden Wellen generativer KI haben GPU-Herstellern wie Nvidia zugutekommen, doch die Anforderungen von Agents unterscheiden sich von denen von Chatbots: Zentrale Prozessoren (CPUs) spielen hier eine größere Rolle, um Aufgaben zu orchestrieren, Sicherheitsregeln anzuwenden und den von Modellen generierten Code auszuführen.

Das Verhältnis von GPU zu CPU in Rechenzentren liegt derzeit zwischen 1:4 und 1:8. Die in der Quelle genannten Erwartungen gehen bei der Verbreitung agentischer KI von einem Verhältnis von 1:1 aus. Dan McNamara, Senior Vice President und General Manager für Enterprise Compute & AI bei AMD, erklärte in einem Blogbeitrag vom Mai, dass sich «die Form der Workload völlig verändert». «Anstatt auf eine einzelne Anfrage zu antworten, zerlegt ein Agent ein Ziel in Schritte, entscheidet über das weitere Vorgehen, ruft mehrere Modelle auf, fragt Datenbanken ab, verbindet sich mit APIs, führt Unternehmensanwendungen aus, prüft Berechtigungen, greift auf Speicher zu, validiert Ergebnisse und beginnt den Prozess dann von Neuem», schrieb er.

Mike Clark, Corporate Fellow, Senior Vice President und Chefarchitekt für Zen bei AMD, betonte seinerseits, dass das Unternehmen das Ausmaß der agentischen KI nicht vorhergesehen habe. «Wir waren immer überzeugt, dass der Core Complex Die eine kritische Rolle in der KI spielen würde», sagte er und verwies auf die mit Zen 5 getätigten und mit Zen 6 fortgesetzten Investitionen.

Madhu Rangarajan, Corporate Vice President für Enterprise Compute & AI Products, stellte die Produktreihe als Höhepunkt einer Entwicklung dar, die mit der ersten Generation «Naples» im Jahr 2018 begann. Seiner Ansicht nach verfügt AMD nun «über ein Portfolio, das für das Zeitalter der agentischen KI bereit ist», mit mehr als 1.000 Instanzen.

Technisch gibt AMD an, dass die Taktfrequenz von 5,0 GHz auf 5,3 GHz steigt, die Speicherbandbreite sich von 12 DDR5-Kanälen mit 614 GB/s auf 16 Kanäle mit 1,6 TB/s erhöht und die Ein-/Ausgabebandbreite sich mit dem Wechsel von PCI-Express Gen 5 zu Gen 6 verdoppelt. Laut dem Unternehmen bietet der 256-Kern-Chip mit 400 Watt Verbrauch 3,3-mal mehr Agents pro Watt als Nvidias Vera, 1,8-mal mehr Agents pro Dollar als Intels Xeon der sechsten Generation und 1,5-mal mehr Agents pro Helion-AI-Rack als ein Vera-Rack. Diese Zahlen stammen von AMD und wurden nicht unabhängig überprüft.

Madhu Rangarajan betonte auch die Bedeutung ephemerer Tools, kurzer und isolierter Ausführungsumgebungen, die während einer Agent-Sitzung erstellt und anschließend automatisch zerstört werden. «Es gibt dafür keinen klar definierten Benchmark», erklärte er und fügte hinzu, dass AMD einige repräsentative Workloads ausgewählt habe, darunter das Parsen von Dokumenten und Kompilierung. Die Modelle Verano und Venice-X werden für das nächste Jahr erwartet.

S’abonner
Notification pour
guest

0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x