A Microsoft apresentou o acelerador AMD Instinct MI300C – uma versão especial do Epyc com 128 GB de memória HBM3

Na conferência Ignite 2024, a Microsoft Azure apresentou o primeiro processador da família Epyc, equipado com núcleos Zen 4 e memória HBM3 – o produto foi designado AMD Instinct MI300C, e neste momento está disponível apenas na infraestrutura cloud da Microsoft, nomeadamente em Instâncias HBv5 do Azure.

Fonte da imagem: microsoft.com

No último domingo, quando o chefe da divisão de data center da AMD assistiu à apresentação do supercomputador mais rápido, El Capitan, a empresa mencionou o MI300C como um dos modelos da linha Instinct, mas não deu detalhes na ocasião. A família de aceleradores AMD Instinct MI300 foi projetada para os setores de computação de alto desempenho e inteligência artificial.

Eles têm um layout de chiplet, cuja base são quatro matrizes de E/S adjacentes, nas quais são colocados chips de GPU/XCD ou de processador central. Se a configuração do acelerador MI300A inclui seis XCDs e três CCDs de oito núcleos, então o MI300C tem unidades XCD substituídas por CCDs – respectivamente, o número total de núcleos Zen 4 não é 24, mas 96. Praticamente não há outras diferenças; Existe uma unidade de memória HBM3 com capacidade de 128 GB. Essencialmente, verifica-se que o acelerador AMD MI300C é um processador Epyc com HBM3.

Na prática, a quantidade de recursos disponíveis do processador depende dos cenários de utilização. Na máquina virtual Microsoft Azure HBv5, eles funcionam em quatro unidades, com apenas 88 núcleos disponíveis para cada processador; Quatro processadores instalados na placa com frequência de clock máxima de 4 GHz fornecem 352 núcleos. A largura de banda da memória é de 6,9 ​​TB/s com capacidade de 400–450 GB (HBM3), você pode instalar até 9 GB de memória por núcleo. O recurso SMT (Simultaneous Multithreading) está desabilitado; Existe apenas uma máquina virtual por servidor.

A interconexão Nvidia Quantum-2 InfiniBand com velocidade de 800 Gbit/s é suportada – 200 Gbit/s por acelerador; O VMSS Flex permite escalar cargas de trabalho MPI para centenas de milhares de núcleos de processador com acesso à memória HBM; Existe um adaptador de rede Azure Boost 2 que fornece velocidades de rede de até 160 Gbps. Os clientes também recebem 14 TB de armazenamento SSD NVMe local com velocidades de até 50 GB/s e velocidades de gravação de até 30 GB/s.

Ressalta-se que o AMD Instinct MI300C permanecerá disponível exclusivamente no Microsoft Azure no futuro próximo.