Intel lançou servidores com processadores Xeon 6 Granite Rapids de 128 núcleos e acelerador Gaudi 3 AI

A Intel anunciou o lançamento de novos processadores para servidores da série Xeon 6 (Granite Rapids), que possuem exclusivamente núcleos P. A empresa também anunciou o lançamento de um acelerador de IA especializado, Gaudi 3.

Fonte da imagem: Intel

Granite Rapids são fabricados usando tecnologia de processo Intel 3 (5 nm). A série inclui cinco modelos com número de núcleos de 72 a 128, frequência base de 2,0 a 2,7 GHz e frequência máxima de 3,9 GHz (em um núcleo), bem como de 3,2 a 3,7 GHz em todos os núcleos. Os processadores receberam de 432 a 504 MB de memória cache L3 e possuem um TDP declarado de 400 a 500 W.

Os chips suportam construções de processador único e duplo, têm suporte para RAM DDR5-6400 e MRDIMM-8800 de 12 canais e também são equipados com suporte para 96 ​​pistas PCIe.

A Intel diz que o Xeon 6 difere de seus antecessores com um maior número de núcleos, o dobro da largura de banda da memória e recursos de aceleração de IA integrados em cada núcleo. Esses chips são projetados para atender às demandas de desempenho de IA, desde sistemas de ponta até data centers e ambientes de nuvem.

A Intel afirma que o novo Xeon 6 é duas vezes mais rápido que os processadores Epyc Genoa (até 96 núcleos Zen 4) em uma ampla gama de cargas de trabalho de computação e mais de cinco vezes mais rápido em cargas de trabalho de rede neural.

Por sua vez, os aceleradores de IA especializados Gaudi 3 são especialmente otimizados para trabalhar com modelos generativos. Eles usam 64 unidades de processamento de tensores (TPCs) e oito mecanismos de multiplicação de matrizes (MMEs) para acelerar cálculos de redes neurais profundas. Os aceleradores Gaudi 3 também receberam 128 GB de memória HBM2 integrada e suportam até 24 portas Ethernet de 200 Gbit para redes escaláveis. Gaudi 3 afirma compatibilidade perfeita com a estrutura PyTorch e modelos avançados de transformação e difusão Hugging Face.

A Intel afirma que os novos aceleradores Gaudi 3 AI oferecem até 20% mais rendimento e preço-desempenho 2x melhor do que o H100 para alimentar o modelo LLaMa 2 70B.