Supercomputador de IA em uma mala – GigaIO Gryf oferecerá até 30 Tflops de desempenho

A GigaIO anunciou a disponibilidade do Gryf, um supercomputador de IA em uma mala desenvolvido em colaboração com a SourceCode. Este dispositivo relativamente compacto promete oferecer desempenho de nível de data center para implantações de ponta.

As primeiras informações sobre Gryf surgiram há cerca de um ano. O dispositivo está alojado em uma caixa com dimensões de 228,6×355,6×622,3 mm e pesa aproximadamente 25 kg. O sistema pode ser operado em temperaturas de +10 a +32 °C.

O design prevê o uso de quatro tipos de módulos Sled: o Compute Sled, o Accelerator Sled, o Storage Sled e o Network Sled. Várias configurações estão disponíveis, mas o número total de módulos Sled em um Gryf não excede seis. Além disso, qualquer configuração inclui um módulo de potência com duas unidades de potência de 2500 W.

O nó Compute Sled contém um processador AMD EPYC 7003 Milan com 16, 32 ou 64 núcleos, até 512 GB de DDR4, um SSD de sistema M.2 (NVMe) de 512 GB e duas portas QSFP56 de 100 GbE. A unidade Storage Sled combina oito unidades NVMe SSD E1.L com uma capacidade total de até 492 GB. O módulo Network Sled fornece duas portas 100GbE QSFP28 e seis portas 25GbE SFP28.

O desempenho da IA ​​é controlado pelo módulo Accelerator Sled, que pode levar um acelerador NVIDIA L40S (48 GB), H100 NVL (94 GB) ou H200 NVL (141 GB) a bordo. Na configuração máxima, o desempenho no modo FP64 chega a 30 Tflops (3,34 Pflops FP8), e a largura de banda da memória é de 4,8 TB/s.

Fonte da imagem: GigaIO

A arquitetura do novo produto oferece a capacidade de escala combinando até cinco unidades Gryf em um único complexo: no total, até 30 módulos Sled podem ser combinados em uma configuração ou outra. Pedidos para o Gryf já foram recebidos do Departamento de Defesa dos EUA, agências de inteligência dos EUA, etc.