NVIDIA inicia produção em massa de superchips Grace Hopper para IA generativa

Na Computex 2023, a NVIDIA anunciou o início da produção em série dos superchips GH200 Grace Hopper projetados para construir sistemas HPC e plataformas generativas de IA. Espera-se que os produtos sejam adotados pelos principais provedores de nuvem e hiperescaladores, incluindo Google, Meta* e Microsoft.

O Grace Hopper inclui um processador NVIDIA Grace Arm de 72 núcleos e um acelerador NVIDIA H100 com 96 GB HBM3. A quantidade total de memória LPDDR5 para ambos os cristais é de 576 GB. As matrizes são interconectadas pelo barramento NVLink-C2C, que fornece uma taxa de transferência de 900 GB / s: isso é aproximadamente sete vezes mais que o PCIe 5.0. O nível de desempenho declarado do GH200 é de 4 PFlops usando o Transformer Engine.

«A IA generativa está transformando rapidamente o espaço de TI, permitindo novas oportunidades e acelerando a descoberta em saúde, finanças, negócios e muito mais. Com o lançamento dos superchips Grace Hopper, fabricantes de todo o mundo em breve fornecerão infraestruturas aceleradas para resolver problemas de IA de classe empresarial com base em matrizes exclusivas de dados”, disse Ian Buck, vice-presidente da divisão HPC da NVIDIA.

Fonte da imagem: NVIDIA

Diz-se que os fabricantes de servidores com aceleradores NVIDIA incluem empresas como Cisco, Dell Technologies, Gigabyte, HPE, Lenovo, Supermicro, Eviden (Atos). AAEON, Advantech, Aetina, ASRock Rack, ASUS, GIGABYTE, Ingrasys, Inventec, Pegatron, QCT, Tyan, Wistron e Wiwynn foram nomeados entre os parceiros taiwaneses da empresa. Os produtos NVIDIA H100 já usam os provedores de nuvem AWS, Cirrascale, CoreWeave, Google Cloud, Lambda, Microsoft Azure, Oracle Cloud, Paperspace e Vultr como parte de suas plataformas.

Fonte da imagem: NVIDIA

Os sistemas de próxima geração baseados em NVIDIA Grace, Hopper e Ada Lovelace suportarão o conjunto completo de software NVIDIA, incluindo NVIDIA AI Enterprise, NVIDIA Omniverse e NVIDIA RTX. As plataformas baseadas no superchip GH200 Grace Hopper estarão disponíveis ainda este ano.

* Está incluída na lista de associações públicas e organizações religiosas em relação às quais o tribunal decidiu definitivamente liquidar ou proibir atividades com base na Lei Federal nº 114-FZ de 25 de julho de 2002 “No combate a extremistas atividade”.

avalanche

Postagens recentes

Nos Estados Unidos, foi criada uma impressora 3D subaquática capaz de imprimir concreto diretamente no fundo do mar.

Pesquisadores da Universidade Cornell desenvolveram uma tecnologia para impressão 3D de estruturas de concreto diretamente…

2 horas atrás

O Spotify tornou as letras das músicas mais claras, mesmo em idiomas desconhecidos e offline.

O serviço de streaming de música Spotify anunciou diversos novos recursos projetados para facilitar o…

2 horas atrás

“Fez por Nioh o que Elden Ring fez por Dark Souls”: Veredicto da crítica sobre Nioh 3

Nioh 3, um ambicioso RPG de ação e fantasia em mundo semiaberto da Koei Tecmo…

2 horas atrás