Intel Gaudi2 pode dar trabalho aos Nvidia H100, apontam testes
Por Daniel Trefilio | Editado por Jones Oliveira | 14 de Setembro de 2023 às 09h30
A Intel apresentou os testes internos dos novos aceleradores de IA Intel Gaudi2 com resultados bastante promissores. Apesar de ainda não superar as placas H100 da Nvidia, que compõem a maior parte da atual infraestrutura de Inteligência Artificial, os Gaudi2 são os primeiros chips com desempenho para servir de alternativa.
Até então, a Nvidia domina sem dificuldade o mercado de aceleradores de IA, com os H100 entregando cargas de trabalho de entre 85,5 e 107,3 Qth/s (throughput queries por segundo). Mesmo os chips A100, também da Nvidia, trazem desempenho bem inferior a este.
Alternativa viável frente a uma nova crise
Os sistemas Intel Habana equipados com o Gaudi2 são as primeiras opções do mercado a trazerem desempenho que se aproxima disso. Segundo os dados apresentados, os novos aceleradores atingem o dobre do desempenho em inferências dos Nvidia A100 e cerca de 80% do desempenho dos H100.
Esse tipo de carga de trabalho é crucial para o treinamento de IA. Os números atuais não são suficientes para superar a Nvidia neste segmento, no entanto os sistemas Habana Gaudi2 miram na acessibilidade. Dessa forma, a novidade da Intel consegue quebrar a hegemonia da Nvidia, oferecendo uma boa alternativa, especialmente considerando o cenário futuro pouco favorável.
Os chips da Nvidia utilizam metodologias de empacotamento avançado de chiplets da TSMC e, segundo a taiwanesa, suas linhas de produção já estão saturadas. Com previsão de melhora apenas para o final de 2024, é bem provável que alguns clientes optem pela opção mais barata, ainda que menos poderosa, da Intel, para garantir que a demanda de seus data centers seja atendida.