AMD revela aceleradores de IA Instinct MI350 e MI355X e anuncia MI400 com 432 GB de memória HBM4

A AMD revelou sua nova série MI350 de aceleradores de IA para data centers. Ela inclui dois produtos: os aceleradores Instinct MI350 e MI355X. Eles são baseados na mesma arquitetura CDNA 4, mas o Instinct MI355X oferece características térmicas e de energia superiores, o que, de acordo com Lisa Su, CEO da AMD, permite um desempenho superior.

Fonte da imagem: AMD

Os aceleradores da série Instinct MI350 são baseados em uma tecnologia de processo de 3 nm e contêm 185 bilhões de transistores em 10 chiplets. A empresa utiliza tecnologia de ligação híbrida para produzir o Instinct MI350. Os chiplets Accelerator Compute Die (XCD) dessas GPUs são fabricados usando a tecnologia de processo N3P da TSMC, enquanto os chiplets I/O Die são baseados na tecnologia de processo N6 de 6 nm da TSMC.

O Instinct MI350 possui 256 unidades de execução, totalizando 16.384 núcleos gráficos, o que é, na verdade, menos do que as GPUs MI325X, que possuem 19.456 núcleos. A arquitetura CDNA 4 foi atualizada para suportar novos tipos de dados FP4 e FP6 para inferência de IA. Os aceleradores da série Instinct MI350 oferecem até 288 GB de memória HBM3E, com uma largura de banda de memória de até 8 TB/s.

A AMD tem se concentrado em melhorar a eficiência energética de suas novas GPUs para data centers. No entanto, para competir com a concorrência, a empresa aumentou o consumo de energia para 1000 W no Instinct MI350X e 1400 W no Instinct MI355X. Os aceleradores estarão disponíveis em formatos ODM.

De acordo com a AMD, os aceleradores da série Instinct MI350 oferecerão 3x o desempenho bruto, 4x o desempenho de IA em comparação com seus antecessores e 35x o desempenho de IA de raciocínio em comparação com a geração anterior de aceleradores Instinct MI300X. A empresa também afirma que seus aceleradores da série Instinct MI350 superam as soluções da Nvidia em até 1,3x em testes de inferência comparáveis ​​e até 1,13x em cargas de trabalho de treinamento de amostra. Os aceleradores da série Instinct MI350 começaram a ser produzidos no mês passado e estarão disponíveis no terceiro trimestre deste ano.

A AMD também anunciou os aceleradores Instinct MI400, que usarão a arquitetura CDNA-Next (provavelmente chamada extraoficialmente de CDNA 5). A previsão é que sejam lançados em 2026. Esses aceleradores de IA oferecerão até 432 GB de memória HBM4, o dobro da memória disponível no Instinct MI355X. A memória do Instinct MI400 fornecerá até 19,6 TB/s de largura de banda.

De acordo com a AMD, os novos aceleradores Instinct MI400 serão até 10 vezes mais potentes que o Instinct MI300. Eles também serão até duas vezes mais produtivos que o Instinct MI355X, receberão até 50% mais memória e mais que o dobro da largura de banda de memória. Se o mesmo Instinct MI355X fornecer 10 PFLOPS de desempenho em FP4, espera-se que o Instinct MI400X forneça 20 PFLOPS de desempenho em FP4.

Os aceleradores Instinct MI400X também superarão os aceleradores Nvidia Blackwell Ultra AI anunciados recentemente. No entanto, em comparação com os aceleradores Nvidia Rubin R200 anunciados, que oferecerão 50 PFLOPS em operações FP4, o novo AMD Instinct MI400X será 2,5 vezes mais lento. No entanto, a empresa não divulgou todos os detalhes sobre o Instinct MI400.