Память теперь вышла на первый план в ИТ-индустрии, где десятилетиями доминировали вычисления. Цены на DRAM и флеш-накопители значительно выросли, а производители GPU и XPU стремятся максимально эффективно использовать выделенную им память HBM.
В течение пяти десятилетий процессор (CPU), а затем и GPU последние лет пятнадцать, были в центре внимания ИТ-бюджетов, в то время как память, хранилища и ввод-вывод оставались второстепенными. С появлением машинного обучения, а затем генеративного и агентного ИИ, память вышла на передний план и вытеснила вычисления в качестве ключевого фактора для большей части отрасли. Мировой рынок полупроводников почти удвоился между 2025 и 2026 годами, но темпы роста, объявленные Gartner, замедляются между 2026 и 2027 годами.
Спрос на DRAM, память HBM и флеш очень высок. Компании заменяют серверы пяти-, шести- или семилетней давности и стремятся разместить максимальное количество ядер в ограниченном пространстве, что увеличивает потребность в памяти и накопителях большой емкости. Производители также перераспределяют часть своих мощностей по выпуску DRAM на производство HBM, предназначенной для ускорителей ИИ, что создает напряжение на рынке классической DRAM.
Цены значительно выросли. В ноябре 2022 года, во время запуска ChatGPT от OpenAI, DDR4 для серверов стоила около 3 долларов за ГБ, а DDR5 — около 4 долларов за ГБ, в среднем для средних емкостей. Четыре года спустя DDR4 для серверов продается в 2–3 раза дороже, DDR5 — в 9–13 раз дороже, а корпоративный TLC SSD на 30 ТБ — в 6–7 раз дороже, тогда как раньше он стоил от 10 до 13 центов за ГБ. Жесткие диски на 30 ТБ подорожали примерно в 2,5 раза за тот же период, поскольку гиперскейлеры закупили основную часть предложения у Seagate, Western Digital и Toshiba.
HBM — закрытый рынок
HBM — это высокоскоростная память с трехмерной компоновкой, размещаемая рядом с процессором. Ее производят три компании: Samsung, SK Hynix и Micron Technology. У нее нет публичных рыночных цен, поскольку объемы зарезервированы для Nvidia, AMD и производителей XPU, а информация о тарифах остается неопределенной. По слухам, цена выросла примерно с 20 долларов за ГБ для HBM2 в 2017 году до примерно 8 долларов двумя годами позже, а затем до примерно 13,50 долларов за ГБ для HBM3E. HBM4, предположительно, стоит около 16 долларов за ГБ, а контракт Nvidia был установлен на уровне 560–600 долларов за стек объемом 36 ГБ.
По мнению автора анализа, стоимость готовых чипов HBM в расчете на гигабайт выросла всего в 1,6 раза с начала бума генеративного ИИ. Однако для конечных пользователей HBM, по оценкам, составляет около половины стоимости GPU от Nvidia или AMD и почти 65% стоимости ускорителя XPU, особенно с тех пор, как OpenAI вступила в гонку со своим ускорителем «Jalapeno».
Проектные решения в условиях ограничений
По слухам, Nvidia частично отказывается от своих первоначальных планов для GPU «Rubin Ultra», запланированного на 2027 год, который должен был иметь до 1 ТБ HBM4E, и может снизить объем до 192 ГБ в некоторых будущих конструкциях. AMD сохраняет 488 ГБ для своего GPU «Altair» MI455X. Nvidia описывает подход под названием NVHBM, при котором контроллер памяти интегрирован в стек HBM: «Интегрируя контроллер памяти в трехмерный стек HBM, а не в XPU, NVHBM обеспечивает до 30% дополнительной пропускной способности памяти и на 15% меньшее энергопотребление HBM, а также освобождает до 25% дополнительной площади на вычислительном чипе XPU по сравнению со стандартной HBM4E».
Автор полагает, что Rubin Ultra может использовать эту освобожденную площадь для размещения 512 ГБ HBM4E или даже 384 ГБ с той же пропускной способностью. Он напоминает, что первоначальная версия имела четыре стека на чиплет, то есть 1024 ГБ, с совокупной пропускной способностью 58 ТБ/с. Уменьшив высоту стеков и сократив количество чиплетов вдвое, можно сохранить 28 ТБ/с при 256, 384 или 512 ГБ в зависимости от количества слоев в стеке.
