Publicidade

Rinha de IA: AMD mostra novo benchmark para desbancar NVIDIA H100

Por| Editado por Jones Oliveira | 18 de Dezembro de 2023 às 19h35

Link copiado!

AMD
AMD
Tudo sobre AMD

O confronto entre AMD e NVIDIA quando se trata de benchmarks de soluções de inteligência artificial (IA) não para. Após o time vermelho publicar um resultado de benchmark no anúncio da GPU Instinct MI300X e o time verde rebater com novos números da GPU H100, a AMD revelou um novo benchmark do MI300X usando vLLM.

Nesse novo teste feito pela AMD, a empresa citou que usou as seguintes configurações: vLLM em ambas as GPUs, vLLM na AMD MI300X e TensorRT-LLM na NVIDIA H100 e, por fim, comparou o desempenho do tipo de dados FP16 nas GPUs MI300X com o tipo de dados FP8 no H100 (formato de dados suportados por cada GPU).

Continua após a publicidade

Os resultados mostram que a solução da AMD, nesse cenário, tem desempenho até 2x superior em relação à concorrência. A latência é outro ponto destacado pela companhia, com a MI300X apresentando 1,6s de latência no modelo Llama 70B contra 1,7s da GPU da Nvidia.

🛒Compre a Radeon RX 7900 XTX no melhor preço!

🛒Compre a GeForce RTX 4090 no melhor preço!

Uma briga que não vai cessar tão cedo

Continua após a publicidade

Com a NVIDIA registrando receita de US$ 18 bilhões graças à IA no 3º trimestre do ano fiscal de 2024, a AMD certamente busca competir com mais intensidade no mesmo mercado e aumentar a participação nas soluções de inteligência artificial voltada às empresas, visto que é mais lucrativo que as tradicionais GPUs para o consumidor.

O anúncio da AMD Instinct MI300X foi o primeiro passo e essas comparações diretas mostram o foco nessa competição, que certamente se intensificará com os rumores do lançamento da nova NVIDIA H200 – que é bem superior a H100.

Fonte: AMD