NVIDIA lança superchip GH200 Grace Hopper com memórias HBM3e

Após ser anunciado na GTC há alguns meses, a NVIDIA confirmou o lançamento do superchip GH200 Grace Hopper para acelerar o treinamento de Grandes Modelos de Linguagem (LLMs), IA Generativa e outras aplicações relacionadas à computação de altíssimo nível.

• Como saber se o seu PC ou notebook tem um SSD ou um HDD?
• IBM quer trocar 7,8 mil trabalhadores humanos por IA

O acelerador é um feito um tanto ambicioso, uma vez que reúne a já estabelecida plataforma Grace Hopper e a CPU Neoverse V2 com 144 núcleos utilizando a arquitetura da Arm. Além disso, a estreia também celebra a chegada das novas memórias e processador HBM3e, oferecendo até oito petaflops de desempenho para Inteligência Artificial e 282 GB desses novos módulos de memória.

“Para atender à crescente demanda por IA generativa, os data centers exigem plataformas de computação aceleradas com necessidades especializadas [...] A nova plataforma GH200 Grace Hopper Superchip oferece isso com tecnologia de memória excepcional e largura de banda para melhorar a taxa de transferência, a capacidade de conectar GPUs para agregar desempenho sem comprometimento e um design de servidor que pode ser facilmente implantado em todo o data center”, comentou Jensen Huang, CEO da NVIDIA.

Por falar nas memórias HBM3e, essa tecnologia deve desempenhar um papel fundamental na performance adicional do novo acelerador. Os módulos são 50% mais rápidos que o HBM3 convencional, proporcionando 10 TB/s de largura de banda e executando modelos 3,5 maiores, segundo a fabricante.

O Grace Hopper pode ser combinado com a tecnologia NVIDIA NVLink, ou seja, chips de alto desempenho adicionais que melhoram a comunicação entre outros componentes do sistema. Assim, a CPU consegue trabalhar em velocidades mais altas, performando de maneira dupla com a GPU e alcançando 1,2 TB de memória combinada.

Lançamento contribui para consolidação da NVIDIA

Também anunciado durante a Computex, a NVIDIA confirmou que o servidor MGX vai receber o GH200 Grace Hopper. A empresa afirmou que qualquer fabricante terá a possibilidade de adicionar a plataforma Grace Hopper e HBM3e de "forma rápida e econômica" através de mais de 100 variações.

O alto investimento da NVIDIA não é por acaso. A empresa vem sendo considerada como uma das principais responsáveis pela expansão de IA Generativa da atualidade, recebendo até elogios do CEO da Intel por seu pioneirismo. O diretor da divisão Enterprise da NVIDIA para a América Latina, Marcio Aguiar, acredita que o fato da empresa possuir o primeiro processador HBM3e do mundo mostra o comprometimento com os clientes e parceiros, além de estarem "à frente de mais uma inovação no setor".

Disponibilidade

O superchip GH200 Grace Hopper estará disponível em sistemas baseados na plataforma a partir do segundo trimestre do ano fiscal de 2024.