A AMD lança o acelerador de IA Instinct MI350P com 144 GB de HBM3E, PCIe 5.0 x16 e consumo de 600 W.

A AMD lançou o Instinct MI350P, um acelerador gráfico especializado em formato de placa de expansão PCIe. Este novo produto foi projetado para servidores com refrigeração a ar e tem como objetivo a implementação de sistemas de inferência de IA que não exigem uma plataforma OAM completa.

Fonte da imagem: AMD

A Instinct MI350P possui um chip gráfico com 128 unidades de execução, 8.192 processadores de fluxo e 512 núcleos de matriz. A AMD afirma que a GPU atinge uma frequência máxima de 2,2 GHz. Tecnicamente, a Instinct MI350P é uma versão com metade do desempenho da Instinct MI350X.

A placa conta com 144 GB de memória HBM3E com um barramento de 4096 bits. A largura de banda máxima da memória é de 4 TB/s. O acelerador também possui 128 MB de cache de último nível e suporta memória ECC (código de correção de erros).

A AMD afirma que a Instinct MI350P oferece desempenho de até 4,6 petaflops quando trabalha com matrizes MXFP4 ou MXFP6. A placa também oferece 2,3 petaflops de desempenho com matrizes MXFP8 e OCP-FP8, 1,15 petaflops com matrizes FP16 e BF16 e 36 teraflops com matrizes FP64. Graças à esparsidade estruturada, algumas métricas de desempenho são duplicadas ao trabalhar com números de 8 e 16 bits.

O acelerador Instinct MI350P tem a espessura de dois slots de expansão e 267 mm de comprimento. Ele utiliza uma interface PCIe 5.0 x16. A alimentação adicional é fornecida à placa através de um conector 12V-2×6. O consumo de energia padrão do acelerador é de 600 W, mas ele pode ser configurado para consumir até 450 W.