La memoria es el eje de la industria informática, y aún más para la IA

La memoria es el eje de la industria informática, y aún más para la IA
4 min de lectura

La memoria ocupa ahora el primer plano en la industria informática, donde el cálculo dominaba desde hace décadas. Los precios de la DRAM y del almacenamiento flash han aumentado considerablemente, y los fabricantes de GPU y XPU buscan sacar el máximo provecho de la memoria HBM que se les asigna.

  • La memoria ha desplazado al cálculo como eje de la industria informática, sobre todo por la IA.
  • La demanda de DRAM, HBM y flash es muy fuerte, y los precios han subido con fuerza desde 2022.
  • La HBM es un mercado cerrado, con tres fabricantes y tarifas poco transparentes.
  • Nvidia y AMD ajustan sus diseños de GPU por las restricciones de memoria, y la NVHBM podría liberar espacio y ancho de banda.

Durante cinco décadas, el procesador (CPU), y luego las GPU desde hace unos quince años, han concentrado la atención de los presupuestos informáticos, mientras que la memoria, el almacenamiento y las entradas-salidas quedaban en un segundo plano. Con el aprendizaje automático, luego la IA generativa y la IA agentica, la memoria ha tomado el protagonismo y ha desplazado al cálculo como punto de control de la mayor parte del sector. El mercado mundial de semiconductores casi se duplicó entre 2025 y 2026, pero los índices de crecimiento anunciados por Gartner se ralentizan entre 2026 y 2027.

La demanda de DRAM, memoria HBM y flash es muy fuerte. Las empresas están reemplazando servidores de cinco, seis o siete años de antigüedad, y buscan concentrar el máximo de núcleos en un espacio reducido, lo que aumenta la necesidad de memoria y almacenamiento de alta capacidad. Además, los fabricantes están reorientando parte de su capacidad de DRAM hacia la HBM, destinada a los aceleradores de IA, lo que tensa la oferta de DRAM convencional.

Los precios han progresado considerablemente. En noviembre de 2022, en el momento del lanzamiento de ChatGPT por OpenAI, la DDR4 para servidores costaba alrededor de 3 dólares por GB y la DDR5 alrededor de 4 dólares por GB, de media en capacidades intermedias. Cuatro años después, la DDR4 para servidores se vende entre 2X y 3X más cara, la DDR5 entre 9X y 13X más cara, y un SSD TLC empresarial de 30 TB entre 6X y 7X más caro, mientras que costaba entre 10 y 13 céntimos por GB. Los discos duros de 30 TB han costado aproximadamente 2,5X más en el mismo periodo, ya que los hiperescalares han contratado la mayor parte de la oferta con Seagate, Western Digital y Toshiba.

La HBM, un mercado cerrado

La HBM, una memoria apilada de alto ancho de banda colocada cerca del procesador, es producida por tres fabricantes: Samsung, SK Hynix y Micron Technology. No tiene un precio de mercado público, ya que sus volúmenes están reservados para Nvidia, AMD y los fabricantes de XPU, y la información sobre tarifas sigue siendo incierta. Según rumores, el precio pasó de unos 20 dólares por GB para la HBM2, en 2017, a unos 8 dólares dos años después, y luego a unos 13,50 dólares por GB para la HBM3E. La HBM4 estaría cerca de los 16 dólares por GB, y el contrato de Nvidia se habría fijado entre 560 y 600 dólares por stack de 36 GB.

Según el autor del análisis, el coste por GB de los chips HBM acabados solo ha progresado 1,6X desde el inicio del boom de la IA generativa. Para los usuarios finales, en cambio, la HBM representaría aproximadamente la mitad del coste de una GPU de Nvidia o AMD, y cerca del 65% el de un acelerador XPU, sobre todo desde que OpenAI entró en la carrera con su acelerador «Jalapeno».

Decisiones de diseño bajo restricciones

Según rumores, Nvidia estaría renunciando en parte a sus planes iniciales para la GPU «Rubin Ultra», prevista para 2027, que debía contar con hasta 1 TB de HBM4E, y podría reducirse a 192 GB en algunos diseños futuros. AMD mantiene 488 GB para su GPU «Altair» MI455X. Nvidia describe un enfoque llamado NVHBM, en el que el controlador de memoria se integra en el stack HBM: «Al integrar el controlador de memoria en el stack HBM 3D en lugar de en el XPU, NVHBM ofrece hasta un 30% más de ancho de banda de memoria y un 15% menos de consumo eléctrico de HBM, y libera hasta un 25% de superficie adicional en el chip de cálculo XPU en comparación con una HBM4E estándar.»

El autor estima que el Rubin Ultra podría aprovechar esta superficie liberada para ofrecer 512 GB de HBM4E, o incluso 384 GB con el mismo ancho de banda. Recuerda que la versión inicial contaba con cuatro stacks por chiplet, es decir, 1024 GB, para un ancho de banda agregado de 58 TB/s. Reduciendo la altura de los stacks y dividiendo por dos el número de chiplets, se podría mantener 28 TB/s con 256, 384 o 512 GB, según el número de capas apiladas.

S’abonner
Notification pour
guest

0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x