Publicidade

Intel Xeon de 5ª geração traz aceleradores de IA em todos os núcleos

Por| Editado por Jones Oliveira | 18 de Dezembro de 2023 às 10h04

Link copiado!

Intel
Intel
Tudo sobre Intel

Na última quinta-feira (14), a Intel lançou os processadores Intel Xeon de 5ª geração para servidores com aceleradores de IA embarcados em todos os núcleos. Além de dispensar aceleradores discretos, isso garante aos novos Xeon até 42% mais desempenho de inferência e latências inferiores a 100 ms executando modelos LLM de até 20 bilhões de parâmetros.

Os novos Xeon utilizam o mesmo socket FCLGA4677 da geração anterior, permitindo uma atualização robusta sem a substituição de servidores. Isso reduz consideravelmente o investimento necessário para clientes com infraestrutura Intel Xeon migrarem suas plataformas para a nova geração.

Continua após a publicidade
“Desenvolvidos para IA, os processadores Intel Xeon de 5ª geração oferecem maior desempenho aos clientes que implantam recursos de IA na nuvem, na rede ou em dispositivos nas bordas. Como resultado do nosso trabalho de longa data junto a clientes, parceiros e o ecossistema de desenvolvedores, estamos lançando o Intel Xeon de 5ª geração em uma base comprovadamente sólida que permitirá rápida adoção e escala com menor TCO", disse Sandra Rivera, vice-presidente executiva da Intel e gerente geral do Grupo de Data Centers e IA

Mais desempenho, segurança e escalabilidade

Em comparação a geração anterior, os aceleradores de IA embarcados nos núcleos dos Xeon de 5ª geração dão até 21% mais desempenho geral e 36% mais desempenho por Watt na mesma plataforma. No caso de clientes com infraestruturas mais antigas, o ganho no custo total de operação (TCO) pode chegar a até 77%.

As plataformas LGA-4677 tiveram um portfólio relativamente reduzido na geração dos Sapphire Rapids, atuando apenas nos segmentos flagship (XCC / contagem de núcleos extrema) e intermediários (MCC / contagem de núcleos mediana).

Continua após a publicidade

Novo segmento e mais núcleos

Para os novos Emerald Rapids, a Intel está investindo em expandir não apenas a contagem de núcleos nos topo de linha, como também introduzir servidores de entrada com foco em eficiência energética (EE LCC). Esses produtos são ideias para ecossistemas computacionais menos intensos que exigem o máximo de desempenho por Watt, como soluções de borda para IoT e cidades inteligentes.

Em termos de arquitetura de die, os Xeon MCC mantêm a contagem de até 32 núcleos, e os EE LCC trazem configurações com até 20 núcleos, ambos com dies monolíticos. Os modelos XCC, topo de linha, reestruturam o chip de quatro blocos e até 60 núcleos, para dois blocos maiores em empacotamento mais complexo.

Continua após a publicidade

O novo formato oferece uma área maior, possibilitando arranjos de até 64 núcleos e até 320 MB de cache. Os novos interconectores Intel Ultra Path 2.0 (UPI) ficam alocados nos cantos de cada bloco, com os chiplets de memória nas laterias e os PCIe intercalados pelos aceleradores integrados.

Maior "throughput" e 10x mais desempenho/W

Os interconectores UPI 2.0 elevam a largura de banda para até 20 GT/s. O padrão de memória também foi atualizado de DDR5-4800 para até DDR5-5600 em até 8 canais, variando sob demanda conforme o fabricante OEM. A nova estrutura com IA embarcada traz um salto geracional com até 70% mais throughput em cargas de trabalho de armazenamento e rede, 40% em HPC e 42% em inferências.

Continua após a publicidade

Uma das maiores vantagens de trazer os aceleradores de IA embarcados no próprio núcleo, no lugar de soluções obrigatoriamente discretas, é que isso permite otimizar todos os processos e não apenas cargas de trabalho específicas. Dessa forma, o sistema como um todo é otimizado, impactando profundamente latências, alocação de instruções e, principalmente, consumo de energia.

De maneira geral, o desempenho por Watt é o dobro em relação aos Emerald Rapids sem aceleradores de IA embarcados e chega a ser 10 vezes mais em tarefas utilizando matrizes Intel AMX de processamento de linguagem natural (NLP).

Virtualização com segurança em tempo real

Continua após a publicidade

Muitas soluções de encriptação em VMs operam apenas nos processos de transferência de comunicação cliente e host, deixando os dados protegidos durante o processamento nas VMs. Introduzida originalmente nos Xeon Sapphire Rapids, a funcionalidade Intel Trust Domain Extesions (Intel TDX) eleva os níveis de privacidade para encriptação em tempo real ao nível, oferecendo mais segurança em processos de virtualização.

Da nuvem à borda

Atualmente, praticamente toda a infraestrutura instalada de servidores em IA se baseia em soluções CUDA, consideravelmente caras para organizações menores. A chegada dos Intel Xeon de 5ª geração é uma das estratégias da Intel para quebrar o domínio da concorrência nos serviços de Inteligência Artificial, trazendo cargas de trabalho para plataformas mais versáteis, acessíveis, e sem depender de implementações dos softwares para arquiteturas ARM, mais complexas de programar.

Com produtos de processamento de IA via CPU, otimizados por ferramentas e LLM de código aberto para arquiteturas x86, é possível criar um portfólio robusto. Isso possibilita atender desde infraestruturas de nuvem e HPC altamente intensas a computação de borda, focando em pulverizar os serviços embarcados em diferentes níveis de mercado, levando a IA, literalmente, a todos os lugares.

Continua após a publicidade
Processadores Escaláveis Intel Xeon de 5ª Geração
Dual Socket de Uso Geral (Desempenho)
SKU

Núcleos/ Threads

Frequência (GHz)

Cache L3 (MB)TDP (W)

Sockets

Memória DDR5 (MT/s)

UPI

Disponíveis

Preço Sugerido (US$)
8592+64/1281,9 / 3,932035025600411.600
858060/1202 / 430035025600410.710
857056/1122,1 /43003502560049.595
8568Y+48/962,3 / 43003502560046.497
8562Y+32/642,8 / 4,1603002560035.945
6548Y+32/642,5 / 4,1602502520033.726
6542Y24/482,9 / 4,1602502520032.878
6544Y16/323,6 / 4,1452702520033.622
6526Y16/322,8 / 3,937,51952520031.517
65348/163,9 / 4,222,51952480032.816
5515+8/163,2 / 4,122,51652480031.099
Dual Socket de Uso Geral (Mainline)
855848/962,1 / 4,02603302520044.650
6538Y+32/642,2 / 4,0602252452233.141
653032/642,1 / 4,01602702480032.128
5520+28/562,2 / 4,052,52052480031.640
4516Y+24/482,2 / 3,7451852440021.295
4514Y16/322,0 / 3,430150244002780
451012/242,4 / 4,130150244002563
4509Y8/162,6 / 4,122,4125244002563
Uso Geral com Arrefecimento Líquido
8593Q64/1282,2 / 3,932038525600412.400
6558Q32/643,2 / 4,1603502520036.416
Single Socket de Uso Geral
8558U48/962,0 / 4,02603001480003.720
5512U28/562,1 / 3,752,51851480001.230
3508U8/162,1 / 2,222,5125144000415
Otimizado para Rede (5G)
8571N52/1042,4 / 4,03003001480006.839
6548N32/642,8 / 4,1602502520033.875
6538N32/642,1 / 4,1602052520033.351
Nuvem IaaS (Infraestrutura) / SaaS (Software)
8592V64/482,0 / 3,932033024800310.995
8558P48/962,7 / 4,02603502560036.759
8581V60/1202,0 / 3,93002701480007.568
Armazenamento e Infraestrutura Hiperconvergida
6554S36/722,2 / 4,01802702520043.157

🛒 Compre processadores Intel pelo melhor preço!

🛒 Compre notebooks com CPUs Intel pelo melhor preço!