A memória é o pivô da indústria informática, e ainda mais para a IA

A memória é o pivô da indústria informática, e ainda mais para a IA
4 min de leitura

A memória ocupa agora o primeiro plano na indústria informática, onde o cálculo dominava há décadas. Os preços da DRAM e do armazenamento flash aumentaram fortemente, e os fabricantes de GPU e de XPU procuram tirar o melhor partido da memória HBM que lhes é atribuída.

  • A memória passou para o primeiro plano, à frente do cálculo.
  • Os preços da DRAM, do flash e da HBM subiram fortemente desde 2022.
  • A HBM é um mercado fechado, com três fabricantes e preços pouco transparentes.
  • Os arquitetos de chips de IA redesenham as suas GPU para lidar com a escassez de memória.

Durante cinco décadas, o processador (CPU), e depois as GPU desde há cerca de quinze anos, concentraram a atenção dos orçamentos informáticos, a memória, o armazenamento e as entradas-saídas permanecendo secundários. Com a aprendizagem automática, depois a IA generativa e a IA agentiva, a memória passou para a frente da cena e suplantou o cálculo como ponto de controlo da maior parte do sector. O mercado mundial de semicondutores quase duplicou entre 2025 e 2026, mas os taxas de crescimento anunciadas pela Gartner abrandam entre 2026 e 2027.

A procura de DRAM, de memória HBM e de flash é muito forte. As empresas substituem servidores com cinco, seis ou sete anos, e procuram concentrar o máximo de núcleos num espaço reduzido, o que aumenta a necessidade de memória e de armazenamento de alta capacidade. Os fabricantes reorientam, além disso, uma parte da sua capacidade DRAM para a HBM, destinada aos aceleradores de IA, o que tensiona a oferta de DRAM clássica.

Os preços progrediram fortemente. Em novembro de 2022, no momento do lançamento do ChatGPT pela OpenAI, a DDR4 para servidores custava cerca de 3 dólares por GB e a DDR5 cerca de 4 dólares por GB, em média sobre capacidades intermédias. Quatro anos depois, a DDR4 para servidores vende-se 2X a 3X mais cara, a DDR5 9X a 13X mais cara, e um SSD TLC empresarial de 30 TB 6X a 7X mais caro, quando custava entre 10 e 13 cêntimos por GB. Os discos rígidos de 30 TB custaram cerca de 2,5X mais caro no mesmo período, os hiperescaladores tendo contratado o essencial da oferta junto da Seagate, Western Digital e Toshiba.

A HBM, um mercado fechado

A HBM, uma memória empilhada de alta largura de banda colocada perto do processador, é produzida por três fabricantes: Samsung, SK Hynix e Micron Technology. Não tem um preço de mercado público, porque os seus volumes são reservados à Nvidia, AMD e aos fabricantes de XPU, e as informações tarifárias permanecem incertas. Segundo rumores, o preço passou de cerca de 20 dólares por GB para a HBM2, em 2017, para cerca de 8 dólares dois anos depois, depois para cerca de 13,50 dólares por GB para a HBM3E. A HBM4 estaria perto de 16 dólares por GB, e o contrato da Nvidia teria sido fixado em 560 a 600 dólares por stack de 36 GB.

Segundo o autor da análise, o custo por GB dos chips HBM acabados só progrediu 1,6X desde o início do boom da IA generativa. Para os utilizadores finais, em contrapartida, a HBM pesaria cerca de metade do custo de uma GPU da Nvidia ou da AMD, e perto de 65 % o de um acelerador XPU, nomeadamente desde que a OpenAI entrou na corrida com o seu acelerador « Jalapeno ».

Escolhas de conceção sob constrangimento

Segundo rumores, a Nvidia renunciaria em parte aos seus planos iniciais para a GPU « Rubin Ultra », prevista para 2027, que devia comportar até 1 TB de HBM4E, e poderia descer a 192 GB em algumas conceções futuras. A AMD mantém 488 GB para a sua GPU « Altair » MI455X. A Nvidia descreve uma abordagem chamada NVHBM, na qual o controlador de memória é integrado na stack HBM: « Ao integrar o controlador de memória na stack HBM 3D em vez de no XPU, a NVHBM oferece até 30 % de largura de banda de memória adicional e 15 % de consumo elétrico HBM a menos, e liberta até 25 % de superfície adicional no chip de cálculo XPU em comparação com uma HBM4E padrão. »

O autor estima que o Rubin Ultra poderia explorar esta superfície libertada para propor 512 GB de HBM4E, ou mesmo 384 GB com largura de banda idêntica. Recorda que a versão inicial contava quatro stacks por chiplet, ou seja, 1 024 GB, para uma largura de banda agregada de 58 TB/s. Ao reduzir a altura das stacks e ao dividir por dois o número de chiplets, poder-se-ia conservar 28 TB/s com 256, 384 ou 512 GB, conforme o número de camadas empilhadas.

S’abonner
Notification pour
guest

0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x