A Pegatron anunciou o servidor AS501-4A1-16I1 de alto desempenho com refrigeração líquida para cargas de trabalho de HPC e aplicações de IA com uso intensivo de recursos, incluindo inferência e treinamento de grandes modelos de linguagem. O dispositivo foi projetado em um formato de 5 OUs e é baseado na plataforma AMD. Até oito servidores AS501-4A1-16I1 podem ser instalados em um rack RA5100-128I1. Isso permite a criação de um sistema de IA de alta densidade com até 32 processadores EPYC 9005 e até 128 aceleradores Instinct MI355X.
O projeto do sistema inclui dois nós de CPU e duas bandejas de GPU. Cada seção de CPU suporta dois processadores AMD EPYC 9005 Turin com um TDP de até 500 W e 24 módulos de memória DDR5-6400 RDIMM. Assim, um total de quatro chips EPYC e 48 módulos de RAM podem ser usados.
Cada bandeja de GPU é equipada com oito aceleradores AMD Instinct MI355X, que carregam 288 GB de memória HBM3E com largura de banda de até 8 TB/s. São fornecidos 12 slots PCIe 5.0 x16 FHHL, que acomodam dez adaptadores de rede 400GbE de porta única e dois adaptadores 10GbE de porta dupla.
Fonte da imagem: Pegatron
O sistema inclui um controlador Aspeed AST2600, duas portas de rede 1GbE (RJ45), uma porta dedicada para gerenciamento de rede (RJ45), uma porta serial (conector Micro-USB), interfaces USB 2.0 Tipo C e Mini-DP. Além do sistema de refrigeração líquida, há dez ventoinhas de resfriamento. É utilizado um barramento de alimentação ORv3 de 48 VCC.