Servidores NVIDIA AI Ready auxiliam empresas com IA generativa

A NVIDIA anunciou nesta semana que sua tecnologia AI Ready estará disponível em diversos servidores das principais fabricantes de sistemas do planeta, como a Lenovo, Dell e a Hewllett Packard Enterprise (HP).

• NVIDIA lança superchip GH200 Grace Hopper com memórias HBM3e
• AMD destaca crescimento dos processadores Threadripper no Brasil

Voltados para o desenvolvimento de IA Generativa, chatbox inteligentes, ferramentas de pesquisa e sumarização, os servidores contam com placas de vídeo dedicadas NVIDIA L40S, as unidades de processamento de dados BlueField 3 e o software NVIDIA AI Enterprise.

Todos esses recursos são destinados para empresas que pretendem implantar o VMware Private AI Foundation, uma solução capaz de otimizar e levar mais segurança para as companhias que trabalham com Inteligência Artificial. De acordo com o CEO da VMware, Raghu Raghuram, isso vai permitir que o desenvolvimento e a implantação da IA seja feito com "mais segurança, privacidade e controle de dados".

Além do sistema operacional NVIDIA AI Enterprise, os servidores possuem softwares e kits de ferramentas como o NVIDIA NeMo para LLMs (Linguagens de Grande Escala). O NVIDIA Modulus estará disponível para simulações, enquanto o NVIDIA RAPIDS é responsável por aplicações de ciência de dados.

GPUs L40s têm potência de 1,45 petaflops

Talvez o mais interessante disso tudo sejam as GPUs L40S. Os modelos oferecem 1,45 petaflops de poder de processamento, graças aos núcleos Tensor de quarta geração e um FP8 Transformer Engine. Isso equivale a 1,7 vezes de poder de fogo adicional em comparação com a GPU NVIDIA A100.

Quando o assunto é IA Generativa, a L40S oferece desempenho 1,2 vezes superior em comparação à NVIDIA A100. Isso também só é possível pelo BlueField 3, que acelera a velocidade de computação de virtualização, rede, armazenamento, segurança e outros serviços de Inteligência Artificial nativos de nuvem.

“Uma nova era da computação começou [...] Empresas de todos os setores estão correndo para adotar IA generativa. Com nosso ecossistema de parceiros de software e sistemas líderes mundiais, estamos trazendo IA generativa para as empresas do mundo", comenta Jensen Huang, CEO da NVIDIA.

No momento, as fabricantes de sistemas já estão desenvolvendo servidores com essas tecnologias, como o Dell PowerEdge R760xa, o Lenovo ThinkSystem SR675 e o HPE ProLiant Gen 11. Vale lembrar que nas últimas semanas a Dell anunciou a produção nacional do PowerEdge R6615 com processadores AMD EPYC.

Os servidores com o AI Ready estarão disponíveis para as empresas nos próximos meses. Até o momento, a NVIDIA não revelou datas específicas para isso.