A Arm lançou seu primeiro processador, o chip AGI de 136 núcleos para servidores de IA baseados em agentes.

A Arma anunciou a CPU AGI, seu primeiro produto produzido em massa e o primeiro processador projetado internamente para data centers. Segundo a empresa, o lançamento da CPU AGI marca uma mudança de paradigma, passando do licenciamento de propriedade intelectual e subsistemas de computação para o fornecimento de chips prontos para uso em infraestrutura de IA.

Fonte da imagem: Arm

O processador AGI é voltado para o que a Arm chama de infraestrutura de agentes de IA, onde esses chips lidarão com orquestração, agendamento, memória, armazenamento e movimentação de dados para processamento em grandes clusters de aceleradores.

A Arm afirma que o processador AGI é construído em um processo de 3 nm, possui até 136 núcleos Neoverse V3, opera com um TDP de 300 W e oferece 6 GB/s de largura de banda de memória por núcleo com latência inferior a 100 ns. Ele suporta até 6 TB de memória por chip e velocidades de memória DDR5-8800. O chip suporta 96 pistas PCIe Gen 6, bem como links CXL 3.0 e AMBA CHI (Coherent Hub Interface). Cada núcleo do processador lida com um thread de software dedicado, o que, segundo a Arm, elimina a limitação de threads e o tempo ocioso sob cargas de trabalho sustentadas.

No contexto de data centers, a densidade é especialmente importante. Sistemas com refrigeração a ar podem acomodar até 8.160 núcleos por rack, enquanto sistemas com refrigeração líquida podem acomodar mais de 45.000 núcleos. Espera-se que os data centers necessitem de mais de quatro vezes a potência de processamento por gigawatt para atender a esse desafio. A Arm argumenta que a arquitetura x86 é complexa demais e excessiva para essa nova classe de cargas de trabalho. A empresa afirma que o desempenho por rack é mais que o dobro em comparação com a arquitetura x86, acrescentando que isso poderia levar a uma economia potencial de até US$ 10 bilhões por gigawatt de capacidade de data center para IA.

A Meta✴ é uma parceira fundamental e codesenvolvedora da CPU AGI. Ela utilizará esses chips em conjunto com seus aceleradores de IA MTIA para orquestração de IA em larga escala em suas plataformas. Além da Meta✴, entre os clientes confirmados estão OpenAI, Cloudflare, Cerebras, Rebellions, SAP e SK Telecom. ASRock Rack, Lenovo, Quanta e Supermicro estão desenvolvendo sistemas baseados na CPU AGI. Amostras iniciais desses sistemas já estão disponíveis, e espera-se uma adoção mais ampla no segundo semestre do ano. O ecossistema recebeu amplo apoio, com a participação de mais de 50 empresas, incluindo AWS, Google, Microsoft, Nvidia, Samsung, TSMC e Micron.