Na conferência Cloud Next desta semana, o Google revelou um novo chip dedicado à IA chamado Ironwood. Esta já é a sétima geração de processadores de IA da empresa e o primeiro TPU otimizado para inferência — o trabalho de modelos de IA já treinados. O processador será usado no Google Cloud e será entregue em sistemas de duas configurações: servidores com 256 desses processadores e clusters com 9216 desses chips.
Fonte da imagem: Google
«Ironwood é nosso TPU mais potente, produtivo e com maior eficiência energética até o momento. “Ele foi projetado para acelerar a inferência de modelos de IA na escala da infraestrutura de nuvem”, disse Amin Vahdat, vice-presidente do Google Cloud, comentando sobre o anúncio do processador.
O anúncio da Ironwood ocorre em meio à crescente concorrência no espaço de aceleradores proprietários de IA. Enquanto a Nvidia domina esse mercado, a Amazon e a Microsoft também estão impulsionando suas soluções tecnológicas. A primeira desenvolveu os processadores de IA Trainium, Inferentia e Graviton que são usados em sua infraestrutura de nuvem AWS, enquanto a Microsoft usa seus próprios chips de IA Cobalt 100 em instâncias de nuvem do Azure.
O Google afirma que o Ironwood tem um desempenho de computação máximo de 4.614 teraflops, ou 4.614 trilhões de operações por segundo. Portanto, um cluster de 9216 desses chips oferecerá um desempenho de 42,5 Exaflops.
Cada processador é equipado com 192 GB de RAM dedicada com uma largura de banda de 7,4 Tbps. O chip também inclui um núcleo SparseCore avançado e especializado para manipular os tipos de dados comuns em cargas de trabalho de “classificação avançada” e “sistemas de recomendação” (como um algoritmo que sugere roupas que você pode gostar). A arquitetura TPU é otimizada para minimizar a movimentação de dados e a latência, o que, segundo o Google, resulta em economia de energia significativa.
A empresa planeja usar o Ironwood em seu cluster de computação modular AI Hypercomputer como parte do Google Cloud.
A Microsoft e a Nscale expandiram sua parceria. A gigante da tecnologia está alugando 30.000…
Apesar de mais de dois anos e meio de espera, os proprietários do PS5 não…
Quando a Microsoft anunciou pela primeira vez o recurso Recall, que usa algoritmos de IA…
Um aplicativo de verificação de idade para plataformas online destinado a usuários europeus está pronto…
O crescimento exponencial da inteligência artificial criou uma escassez global de chips de memória DRAM…
Como parte da série limitada de carros Rolls-Royce Coachbuild, construídos artesanalmente, a montadora britânica revelou…