AMD представила подробности о своих серверных процессорах Epyc шестого поколения, известных под кодовым названием «Venice», которые, по словам компании, адаптированы для рабочих нагрузок агентного ИИ. По заявлению AMD, эти чипы обеспечивают пропускную способность в 1,9 раза выше, чем у процессоров Epyc 9005 «Turin» предыдущего поколения.
Это объявление сделано на фоне ожидаемого быстрого роста агентного ИИ, где система выполняет последовательность шагов для достижения цели. Некоторые аналитические агентства прогнозируют рост почти на 43% в год до 2034 года. Как отмечается в материале, это также меняет инфраструктуру центров обработки данных. Последовательные волны генеративного ИИ принесли пользу производителям GPU, таким как Nvidia, но потребности агентов отличаются от потребностей чат-ботов: центральные процессоры (CPU) играют здесь более важную роль, оркеструя задачи, применяя правила безопасности и выполняя код, сгенерированный моделями.
Соотношение GPU и CPU в центрах обработки данных сегодня составляет от 1:4 до 1:8. Ожидания, упомянутые в источнике, предполагают соотношение 1:1 с расцветом агентного ИИ. Дэн Макнамара, старший вице-президент и генеральный менеджер по корпоративным вычислениям и ИИ в AMD, объяснил в майском блоге, что «характер рабочей нагрузки полностью меняется». «Вместо ответа на один запрос агент разбивает цель на шаги, решает, что делать дальше, вызывает несколько моделей, опрашивает базы данных, подключается к API, запускает корпоративные приложения, проверяет разрешения, извлекает память, проверяет результаты, а затем повторяет процесс», — написал он.
Майк Кларк, корпоративный сотрудник, старший вице-президент и главный архитектор Zen в AMD, со своей стороны отметил, что компания не предвидела масштабов, которые примет агентный ИИ. «Мы всегда верили, что Core Complex Die будет играть критическую роль в ИИ», — заявил он, напомнив об инвестициях, сделанных с Zen 5 и продолженных с Zen 6.
Мадху Рангараджан, корпоративный вице-президент по продуктам для корпоративных вычислений и ИИ, представил линейку как кульминацию эволюции, начатой с первого поколения «Naples» в 2018 году. По его словам, у AMD теперь есть «портфель, готовый к эре агентного ИИ», с более чем 1000 инстансов.
В техническом плане AMD сообщает, что частота увеличивается с 5,0 ГГц до 5,3 ГГц, пропускная способность памяти меняется с 12 каналов DDR5 на 614 ГБ/с до 16 каналов на 1,6 ТБ/с, а пропускная способность ввода-вывода удваивается с переходом с PCI-Express Gen 5 на Gen 6. По заявлению компании, чип на 256 ядер с потреблением 400 Вт обеспечивает в 3,3 раза больше агентов на ватт, чем Vera от Nvidia, в 1,8 раза больше агентов на доллар, чем Xeon шестого поколения от Intel, и в 1,5 раза больше агентов на стойку Helion AI, чем на стойку Vera. Эти цифры предоставлены AMD и не были проверены независимо.
Мадху Рангараджан также подчеркнул важность эфемерных инструментов — кратковременных изолированных сред выполнения, создаваемых во время сессии агента и затем автоматически уничтожаемых. «Для этого не существует четко определенного бенчмарка», — заявил он, добавив, что AMD выбрала несколько репрезентативных рабочих нагрузок, включая парсинг документов и компиляцию. Модели Verano и Venice-X ожидаются в следующем году.
