Rodar a IA Copilot localmente exigirá NPUs de 40 TOPS, diz Intel

Segundo Todd Lewellen, VP do Client Computing Group da Intel, AI PCs vão precisar de NPUs com desempenho de pelo menos 40 trilhões de operações por segundo (TOPS) para rodar o Windows Copilot localmente. Essa é a primeira vez que alguma fabricante delimita uma métrica clara de desempenho para uma operação local de Inteligência Artificial.

• Notebooks com Intel Core Ultra | 7 detalhes que você precisa saber
• Como a Intel quer revolucionar os computadores com os AI PCs

Até o momento, todo o processamento do assistente de IA da Microsoft é executado remotamente, cenário que ainda deve permanecer verdadeiro por algum tempo, uma vez que as NPUs atuais ficam bem abaixo desse requisito.

"Haverá uma evolução continuada, na qual vamos avançar para a próxima geração de AI PCs com o requisito mínimo de 40 TOPS na NPU. Nós temos nosso produto de próxima geração que se enquadra nessa categoria”, disse o executivo.

AI PCs de próxima geração

Para fins de comparação, o desempenho total estimado dos novos processadores Meteor Lake é de 34 TOPS, sendo que 18 são da GPU e apenas 11 são da NPU. No caso das APUs Hawk Point da AMD, o cenário é um pouco melhor, com NPUs de 16 TOPS e desempenho total de 39 TOPS.

Por outro lado, as novas gerações estão relativamente próximas de executar tarefas mais robustas de inferência totalmente offline. A Intel afirmou que as APUs Lunar, previstas para o final de 2024, terão desempenho de IA três vezes superior ao dos chips Meteor Lake, e vão contar com NPUs Intel de terceira geração.

Não está claro quanto desse desempenho será exclusivamente das NPUs, mas é seguro assumir que, mesmo que não entreguem sozinhas os 40 TOPS para um assistente de IA 100% local, em alguns meses já estaremos bem mais próximos dessa realidade.

• 🛒 Compre notebook com processador Intel Core pelo melhor preço!
• 🛒 Compre processador Intel Core pelo melhor preço!

Fonte: Tom's Hardware