NVIDIA apresenta superchip GH200 Grace Hopper com memória HBM3e e desempenho 4PFlops

Na SIGGRAPH 2023, a NVIDIA apresentou a plataforma de computação GH200 Grace Hopper SuperChip de última geração, que é um sistema de chip duplo de um processador central e um processador gráfico. Servirá para construir sistemas HPC e plataformas AI. É baseado em uma nova geração do superchip NVIDIA Grace, equipado com memória HBM3e de alto desempenho integrada, que fornece acesso a informações a uma velocidade de 5 TB / s.

Fonte da imagem: NVIDIA

De acordo com a NVIDIA, a plataforma GH200 Grace Hopper SuperChip de próxima geração supera significativamente seu antecessor. Um servidor baseado na plataforma GH200 Grace Hopper com dois novos superchips (ou seja, dois pares de GPU + CPU) será capaz de oferecer 144 núcleos Arm Neoverse, trabalhando em conjunto com 282 GB de memória avançada on-board de alto desempenho HBM3e . Essa configuração fornece 3,5 vezes mais memória e três vezes mais largura de banda do que seu antecessor. O desempenho dessa plataforma com um par de superchips é de 8 petaflops.

«Para atender à crescente demanda por IA generativa, os data centers exigem plataformas de computação com recursos especiais. A nova plataforma GH200 Grace Hopper SuperChip, que usa a tecnologia de memória interna HBM3e com maior largura de banda, está pronta para resolver esse problema. Ele oferece a capacidade de combinar várias GPUs para desempenho unificado, além de criar sistemas de servidor que podem ser facilmente implantados em qualquer lugar do data center”, disse Jensen Huang, CEO da NVIDIA.

O superchip Grace Hopper no coração da nova plataforma pode ser combinado com os mesmos superchips usando o barramento NVIDIA NVLink. Essa tecnologia de alta velocidade dá à GPU acesso total à memória da CPU, fornecendo um total de 1,2 TB de memória rápida em uma configuração de superchip duplo. Isso permite implantar sistemas de computação em larga escala necessários para resolver problemas complexos associados à IA generativa.

A memória HBM3e usada na próxima geração do GH200 Grace Hopper SuperChip oferece desempenho 50% mais rápido do que o HBM3 e oferece 10 TB/s de largura de banda total em um sistema com vários GH200 Grace Hopper SuperChips. Isso permite que a plataforma execute modelos de IA 3,5 vezes maiores e oferece um aumento significativo de desempenho geral com 3 vezes a largura de banda de memória de seu antecessor.

A NVIDIA observa que, diante da crescente demanda pela plataforma Grace Hopper, os principais fabricantes já começaram a oferecer sistemas baseados no superchip Grace Hopper. O novo Grace Hopper SuperChip de próxima geração com memória HBM3e é totalmente compatível com as especificações da arquitetura modular do servidor NVIDIA MGX que foi revelada na Computex 2023. Essa compatibilidade garante que qualquer fornecedor de servidor possa integrar o Grace Hopper de forma rápida e econômica em mais de 100 opções de servidores no mercado.

A introdução da nova plataforma NVIDIA pelos principais fabricantes de sistemas de servidores começará no segundo trimestre de 2024.