Google revela cluster de IA de 9 Eflops baseado em chips TPU v4 personalizados

O Google revelou soluções em nuvem na I/O 2022 com base em seu acelerador TPU v4 AI, que é mais que o dobro do desempenho e três vezes a eficiência de energia do TPU v3. A empresa oferece clusters que contêm 4096 aceleradores de uma só vez, enquanto na geração anterior eles não incluíam mais de 1024 chips. Os novos clusters oferecem até 6 Tbps de largura de banda por host, permitindo que você treine rapidamente os maiores modelos.

Imagens: Google

Segundo a empresa, um cluster TPU v4 tem um desempenho de mais de 1 Eflops. É verdade, neste caso estamos falando de cálculos BF16 ou INT8. Um acelerador de nuvem TPU v4 equipado com 32 GB de memória HBM2 (1,2 TB/s) produz até 275 Tflops neste modo, consumindo em média 170 watts. Agora, a empresa está ocupada instalando esses clusters em seus próprios data centers, e a energia de muitos deles será 90% fornecida por fontes “verdes” livres de carbono.

Um desses data centers, localizado em Mays County (Oklahoma), recebeu um complexo de oito clusters TPU v4 com um desempenho total de cerca de 9 Eflops. De acordo com a empresa, este é o mais produtivo entre os clusters disponíveis publicamente (US$ 3,22/hora por chip) desta classe.

avalanche

Postagens recentes

A UE considera o código aberto um dos componentes da soberania digital da Europa.

A Comissão Europeia lançou a iniciativa "Rumo a Ecossistemas Digitais Abertos Europeus", que visa identificar…

18 minutos atrás

O RPG sandbox no estilo Minecraft, Hytale, que foi revitalizado, tornou-se um sucesso, com quase 3 milhões de jogadores simultâneos no início do Acesso Antecipado.

Os desenvolvedores do estúdio canadense Hypixel esperavam que cerca de um milhão de jogadores lançassem…

1 hora atrás

A China instalou a maior turbina eólica offshore do mundo – com 20 MW e tão alta quanto a Torre Eiffel.

Os engenheiros chineses continuam a surpreender com seus projetos ambiciosos. Um desses projetos foi a…

2 horas atrás

A startup chinesa Zhipu treinou completamente um modelo de IA em chips da Huawei.

A startup chinesa Knowledge Atlas Technology JSC Ltd. (também conhecida como Zhipu) lançou um modelo…

2 horas atrás