1,5 TB HBM3: AMD Instinct MI300X tornou-se disponível na nuvem Microsoft Azure

A Microsoft anunciou a disponibilidade de instâncias Azure ND MI300X v5 baseadas em aceleradores AMD Instinct MI300X. Observa-se que esta é uma família qualitativamente nova de máquinas virtuais, que oferece a maior quantidade possível de memória HBM e desempenho líder do setor.

A Microsoft anunciou a preparação de instâncias ND MI300X v5 em novembro do ano passado. Uma máquina virtual combina oito aceleradores com 192 GB de memória HBM3, conectados entre si via Infinity Fabric 3.0 e ao host via PCIe 5.0. Assim, o volume total do HBM3 chega a 1,5 TB e a vazão é de 5,3 TB/s.

Fonte da imagem: Microsoft

Observa-se que as máquinas virtuais ND MI300X v5 utilizam a plataforma de software aberto AMD ROCm, que fornece um conjunto completo de ferramentas e bibliotecas para o desenvolvimento e implantação de IA. A plataforma ROCm oferece suporte a estruturas populares como TensorFlow e PyTorch, bem como bibliotecas de IA da Microsoft, incluindo ONNX Runtime, DeepSpeed ​​​​e MSCCL. Além disso, o ROCm facilita a migração de modelos de uma plataforma para outra, resultando em custos mais baixos.

Hugging Face portou seus modelos para o ND MI300X v5 sem nenhuma alteração de código. Isso tornou possível aumentar o desempenho em 2 a 3 vezes em comparação com o AMD Instinct MI250.

avalanche

Postagens recentes

O suporte técnico da NASA reparou remotamente o Microsoft Outlook no tablet do comandante da missão lunar Artemis II.

Durante o lançamento da espaçonave Orion a bordo do foguete SLS rumo à Lua, no…

1 hora atrás

A Anthropic introduziu uma taxa adicional para conectar o OpenClaw ao Claude.

A Anthropic alterou sua política de serviços. A conexão do agente de IA OpenClaw à…

1 hora atrás

Um tribunal ordenou que a Netflix reembolse o dinheiro referente a aumentos injustificados nos preços das assinaturas, mas apenas em um país.

Enquanto os assinantes da Netflix nos EUA ainda se recuperam do último aumento de preços,…

1 hora atrás

A Apple esgotou todos os Mac Studios com 256 GB de RAM, e o prazo de entrega pode chegar a 4-5 meses.

A Apple normalmente não vende produtos para o consumidor final que demorem meses para serem…

2 horas atrás

O módulo de pouso Blue Ghost da Firefly Aerospace pousou com sucesso na Lua, revelando algo inesperado.

Em março de 2025, o módulo lunar Blue Ghost, desenvolvido pela Firefly Aerospace, pousou com…

3 horas atrás