NVIDIA inicia produção em massa de superchips Grace Hopper para IA generativa

Na Computex 2023, a NVIDIA anunciou o início da produção em série dos superchips GH200 Grace Hopper projetados para construir sistemas HPC e plataformas generativas de IA. Espera-se que os produtos sejam adotados pelos principais provedores de nuvem e hiperescaladores, incluindo Google, Meta* e Microsoft.

O Grace Hopper inclui um processador NVIDIA Grace Arm de 72 núcleos e um acelerador NVIDIA H100 com 96 GB HBM3. A quantidade total de memória LPDDR5 para ambos os cristais é de 576 GB. As matrizes são interconectadas pelo barramento NVLink-C2C, que fornece uma taxa de transferência de 900 GB / s: isso é aproximadamente sete vezes mais que o PCIe 5.0. O nível de desempenho declarado do GH200 é de 4 PFlops usando o Transformer Engine.

«A IA generativa está transformando rapidamente o espaço de TI, permitindo novas oportunidades e acelerando a descoberta em saúde, finanças, negócios e muito mais. Com o lançamento dos superchips Grace Hopper, fabricantes de todo o mundo em breve fornecerão infraestruturas aceleradas para resolver problemas de IA de classe empresarial com base em matrizes exclusivas de dados”, disse Ian Buck, vice-presidente da divisão HPC da NVIDIA.

Fonte da imagem: NVIDIA

Diz-se que os fabricantes de servidores com aceleradores NVIDIA incluem empresas como Cisco, Dell Technologies, Gigabyte, HPE, Lenovo, Supermicro, Eviden (Atos). AAEON, Advantech, Aetina, ASRock Rack, ASUS, GIGABYTE, Ingrasys, Inventec, Pegatron, QCT, Tyan, Wistron e Wiwynn foram nomeados entre os parceiros taiwaneses da empresa. Os produtos NVIDIA H100 já usam os provedores de nuvem AWS, Cirrascale, CoreWeave, Google Cloud, Lambda, Microsoft Azure, Oracle Cloud, Paperspace e Vultr como parte de suas plataformas.

Fonte da imagem: NVIDIA

Os sistemas de próxima geração baseados em NVIDIA Grace, Hopper e Ada Lovelace suportarão o conjunto completo de software NVIDIA, incluindo NVIDIA AI Enterprise, NVIDIA Omniverse e NVIDIA RTX. As plataformas baseadas no superchip GH200 Grace Hopper estarão disponíveis ainda este ano.

* Está incluída na lista de associações públicas e organizações religiosas em relação às quais o tribunal decidiu definitivamente liquidar ou proibir atividades com base na Lei Federal nº 114-FZ de 25 de julho de 2002 “No combate a extremistas atividade”.