AMD apresentou o acelerador MI325X AI com 288 GB HBM3e e falou sobre o MI350X na arquitetura CDNA4

A AMD apresentou planos atualizados para o lançamento de aceleradores de computação Instinct na Computex 2024 e também anunciou um novo acelerador de IA carro-chefe, o Instinct MI325X.

Fonte da imagem: AMD

Anteriormente, a empresa lançou aceleradores MI300A e MI300X com memória HBM3, bem como diversas de suas variações para determinadas regiões. O novo MI325X é baseado na mesma arquitetura CDNA 3 e usa a mesma combinação de chips de 5 e 6 nm, mas ainda representa uma atualização significativa para a família Instinct. O fato é que este acelerador utiliza memória HBM3e mais potente.

O Instinct MI325X oferecerá 288 GB de memória, 96 GB a mais que o MI300X. Mais importante ainda, o uso da nova memória HBM3e proporciona um aumento na largura de banda para 6,0 TB/s – 700 GB/s a mais do que o MI300X com HBM3. A AMD observa que a transição para a nova memória fornecerá ao MI325X desempenho de inferência 1,3 vezes maior (o trabalho de uma rede neural já treinada) e geração de tokens em comparação com a Nvidia H200.

A AMD também pré-anunciou o acelerador Instinct MI350X, que será construído em um chip com a nova arquitetura CDNA 4. A transição para esta arquitetura promete um aumento de aproximadamente 35 vezes no desempenho de uma rede neural treinada em comparação com a atual. ADN 3.

A avançada tecnologia de processo de 3 nm será usada para produzir os aceleradores de computação MI350X. O Instinct MI350X também receberá até 288 GB de memória HBM3e. Eles também reivindicam suporte para tipos de dados FP4/FP6, o que será benéfico ao trabalhar com algoritmos de aprendizado de máquina. A empresa não forneceu detalhes adicionais sobre o Instinct MI350X, mas observou que eles serão lançados no formato Open Accelerator Module (OAM).

Fonte da imagem: AnandTech

Os aceleradores Instinct MI325X AI começarão a ser comercializados no quarto trimestre deste ano. O MI350X deverá ser lançado em 2025. Além disso, a AMD anunciou que os aceleradores computacionais da série MI400 baseados na arquitetura CDNA-Next serão introduzidos em 2026.