AMDは、第6世代サーバープロセッサ「Epyc」の詳細を明らかにした。コードネーム「Venice」として知られるこのプロセッサは、エージェントAIワークロードに適しているとしている。同社によれば、これらのチップは前世代のEpyc 9005「Turin」プロセッサに比べ、1.9倍のスループットを提供する。
この発表は、システムが目標達成のために一連のステップを連鎖させるエージェントAIが急速に成長すると予想される中で行われた。一部のアナリストは、2034年まで年間約43%の成長を見込んでいる。この動向はデータセンターのインフラも変えつつある。生成AIの波はNvidiaなどのGPUメーカーに恩恵をもたらしたが、エージェントの要件はチャットボットとは異なる。中央処理装置(CPU)は、タスクのオーケストレーション、セキュリティルールの適用、モデルが生成したコードの実行において、より重要な役割を果たす。
現在、データセンターにおけるGPUとCPUの比率は1:4から1:8の間にある。情報源で言及された予測では、エージェントAIの台頭により1:1の比率になるとしている。AMDの企業向けコンピューティング&AI担当シニアバイスプレジデント兼ゼネラルマネージャー、ダン・マクナマラは、5月に公開されたブログ記事で「ワークロードの形態が完全に変わっている」と説明した。「単一のクエリに応答する代わりに、エージェントは目標をステップに分解し、次に何をするか決定し、複数のモデルを呼び出し、データベースを照会し、APIに接続し、エンタープライズアプリケーションを実行し、権限を確認し、メモリを取得し、結果を検証し、その後プロセスを繰り返す」と記している。
一方、AMDのコーポレートフェロー、シニアバイスプレジデント兼Zenチーフアーキテクトのマイク・クラークは、同社がエージェントAIの規模を予測していなかったと強調した。「Core Complex DieがAIにおいて重要な役割を果たすと常に信じていた」と述べ、Zen 5で行われた投資を振り返り、Zen 6でも継続していることを指摘した。
企業向けコンピューティング&AI製品担当バイスプレジデントのマドゥ・ランガラジャンは、この製品ラインを2018年の第1世代「Naples」以来の進化の集大成と位置づけた。同氏によれば、AMDは現在「1000以上のインスタンスを備えた、エージェントAI時代に対応したポートフォリオ」を有している。
技術面では、AMDはクロック周波数が5.0GHzから5.3GHzに向上し、メモリ帯域幅が12チャネルDDR5の614GB/sから16チャネルの1.6TB/sに進化し、PCI-Express Gen 5からGen 6への移行により入出力帯域幅が2倍になるとしている。同社によると、400ワットを消費する256コアチップは、NvidiaのVeraと比べてワット当たり3.3倍のエージェントを、Intelの第6世代Xeonと比べてドル当たり1.8倍のエージェントを、Helion AIラックと比べてラック当たり1.5倍のエージェントを提供する。これらの数値はAMDによるものであり、独立した検証は行われていない。
マドゥ・ランガラジャンはまた、エフェメラルツール(短命で隔離された実行環境)についても強調した。これらはエージェントセッション中に作成され、自動的に破棄される。「これに対する明確なベンチマークは存在しない」と同氏は述べ、AMDが文書解析やコンパイルなど、いくつかの代表的なワークロードを選択したと付け加えた。VeranoおよびVenice-Xモデルは来年登場予定である。
