A NVIDIA anunciou um novo tipo de plataforma de computação DGX GH200 AI Supercomputer para IA generativa, processando grandes quantidades de dados e sistemas de recomendação. A plataforma HPC estará disponível para clientes corporativos e organizações no final de 2023. A plataforma é um PACK pronto e inclui, em particular, as suítes de software NVIDIA AI Enterprise e Base Command.
A plataforma permite o uso de 256 superchips NVIDIA GH200 Grace Hopper, combinados usando o NVLink Switch System. Cada superchip contém um processador NVIDIA Grace Arm e um acelerador NVIDIA H100 em um módulo. É usada a interconexão NVLink-C2C (Chip-to-Chip), que, de acordo com a NVIDIA, é significativamente mais rápida e mais eficiente em termos de energia do que o PCIe 5.0. Como resultado, a velocidade de troca de dados entre a CPU e a GPU aumenta sete vezes e os custos de energia são reduzidos em cerca de cinco vezes. A taxa de transferência atinge 900 GB / s.
“Fonte da imagem: NVIDIA”
A tecnologia NVLink Switch permite que todos os aceleradores do sistema funcionem como uma única unidade. Assim, o desempenho no nível de 1 Eflops é garantido (a precisão do cálculo não é indicada no comunicado de imprensa original) e a quantidade total de memória chega a 144 TB – isso é quase 500 vezes mais do que em um sistema NVIDIA DGX A100. A arquitetura do supercomputador DGX GH200 AI oferece uma taxa de transferência geral de até 10x em relação à plataforma HPC da geração anterior.
“Espera-se que Google Cloud, Meta* e Microsoft estejam entre os primeiros a acessar o supercomputador DGX GH200 para avaliar seus recursos para cargas de trabalho de IA generativas. No futuro, os maiores provedores de serviços de nuvem e hiperescaladores poderão implementar seus próprios projetos com base em o DGX GH200.”
* Está incluída no rol de associações públicas e entidades religiosas em relação às quais o tribunal tenha proferido decisão que entrou em vigor para liquidar ou proibir atividades com base na Lei Federal nº 114-FZ, de 25 de julho de 2002 “Sobre o combate à atividade extremista”.