1,5 TB HBM3: AMD Instinct MI300X tornou-se disponível na nuvem Microsoft Azure

A Microsoft anunciou a disponibilidade de instâncias Azure ND MI300X v5 baseadas em aceleradores AMD Instinct MI300X. Observa-se que esta é uma família qualitativamente nova de máquinas virtuais, que oferece a maior quantidade possível de memória HBM e desempenho líder do setor.

A Microsoft anunciou a preparação de instâncias ND MI300X v5 em novembro do ano passado. Uma máquina virtual combina oito aceleradores com 192 GB de memória HBM3, conectados entre si via Infinity Fabric 3.0 e ao host via PCIe 5.0. Assim, o volume total do HBM3 chega a 1,5 TB e a vazão é de 5,3 TB/s.

Fonte da imagem: Microsoft

Observa-se que as máquinas virtuais ND MI300X v5 utilizam a plataforma de software aberto AMD ROCm, que fornece um conjunto completo de ferramentas e bibliotecas para o desenvolvimento e implantação de IA. A plataforma ROCm oferece suporte a estruturas populares como TensorFlow e PyTorch, bem como bibliotecas de IA da Microsoft, incluindo ONNX Runtime, DeepSpeed ​​​​e MSCCL. Além disso, o ROCm facilita a migração de modelos de uma plataforma para outra, resultando em custos mais baixos.

Hugging Face portou seus modelos para o ND MI300X v5 sem nenhuma alteração de código. Isso tornou possível aumentar o desempenho em 2 a 3 vezes em comparação com o AMD Instinct MI250.

AddThis Website Tools
avalanche

Postagens recentes

“Jenga com vidas humanas em jogo”: foi anunciada a estratégia de planejamento urbano All Will Fall, na qual todos os edifícios podem desabar

A editora tinyBuild e os desenvolvedores do estúdio lituano All Parts Connected apresentaram All Will…

14 minutos atrás

A receita da Seagate aumentou 1,5 vezes – as nuvens compraram discos rígidos

A Seagate Technology Holdings publicou os resultados financeiros do segundo trimestre do ano fiscal de…

24 minutos atrás

Abram os portões: um dia depois de ser bloqueado, Horizon Forbidden West voltou à venda para 130 regiões do Steam

Antes que as chamas da raiva popular explodissem, a Sony devolveu o jogo de ação…

43 minutos atrás