Nvidia lança NVHBM, memória de alta largura de banda personalizada com 30% mais desempenho e 15% menos consumo

A Nvidia anunciou o NVHBM, uma memória de alta largura de banda (HBM) personalizada projetada para integrar sua plataforma NVLink Fusion. Segundo a empresa, o componente oferece até 30% mais largura de banda e reduz em 15% o consumo de energia em comparação com a HBM4e tradicional, além de ocupar menos espaço no encapsulamento do chip.

O NVHBM é voltado para fabricantes de chips personalizados que desejam conectar seus processadores ao domínio estendido do NVLink, permitindo a criação de sistemas unificados de computação. A tecnologia já foi validada com "principais fabricantes de memória", segundo a Nvidia, o que pode acelerar o desenvolvimento de produtos para parceiros. No entanto, a empresa esclareceu que o NVHBM não substitui a HBM padrão, mas sim atua como um novo componente para soluções personalizadas.

A Nvidia destacou a importância da largura de banda de memória para aceleradores de IA, afirmando que o NVHBM pode aumentar em até 30% a transferência de dados por pilha de memória em comparação com a HBM4e. Isso é especialmente relevante para cargas de trabalho limitadas pela largura de banda, como inferência de IA, onde a tecnologia pode aumentar o número de tokens gerados por segundo.

Além disso, o NVHBM transfere o controlador de memória para a base da pilha de memória, liberando espaço no chip principal. A Nvidia informou que essa abordagem permite aumentar em até 30% a área dedicada à computação no silício principal. Também simplifica a fiação em designs avançados de encapsulamento que conectam múltiplos chips, como no caso do acelerador de nível de rack Vera Rubin NVL72.

Outro benefício é a redução de 15% no consumo de energia em relação à HBM4e comercial. A Nvidia afirmou que essa economia pode ser direcionada para melhorar o desempenho por watt ou aumentar a capacidade de processamento em aceleradores personalizados. Em sistemas com milhares de chips, a economia acumulada pode ser significativa, permitindo alocar energia para mais funcionalidades ou implantar mais aceleradores dentro de um orçamento fixo de energia.

Embora os ganhos sejam promissores, a Nvidia esclareceu que os benefícios ainda são potenciais para parceiros que adotarem o NVHBM em futuros projetos, não sendo aplicáveis imediatamente aos sistemas Rubin NVL72 já em produção.

Como parte do lançamento, a Nvidia revelou que a Annapurna Labs, subsidiária da Amazon, será a primeira parceira a adotar o NVHBM. Nafea Bshara, vice-presidente da Annapurna Labs, declarou que a parceria deve trazer benefícios para a infraestrutura futura da AWS. A empresa já utiliza a interface de extensão NVLink Fusion em sua próxima geração de chips Trainium 4, sugerindo que futuros produtos também poderão incorporar o NVHBM.

O anúncio foi feito pelo site ITHome, que reportou a novidade.