Elon Musk está preparando um supercomputador para xAI com 300 mil NVIDIA B200, mas por enquanto teremos que nos contentar com o H100

Elon Musk diz que até o verão de 2025, sua startup de IA xAI colocará em operação um supercomputador com 300 mil dos mais recentes aceleradores NVIDIA B200 e SuperNIC ConnectX-8, relata Datacenter Dynamics. Ao mesmo tempo, Musk prometeu colocar em operação um cluster de 100 mil aceleradores NVIDIA H100 com refrigeração líquida nos próximos meses.

Ao mesmo tempo, é importante lembrar que Musk muitas vezes faz promessas que depois nunca cumpre ou não cumpre como esperado. Por exemplo, The Information informou recentemente que 100 mil aceleradores H100 deverão começar a funcionar apenas no próximo verão. Muito provavelmente, a empresa construirá um cluster compacto e relativamente barato, que posteriormente será expandido para 100 mil aceleradores. O mesmo esquema pode ser implementado com um sistema de 300 mil aceleradores.

Espera-se que tal supercomputador custe dezenas de bilhões de dólares, mais do que a xAI arrecadou dos investidores. Segundo o CEO da NVIDIA, Jensen Huang, um B200 custa entre 30 e 40 mil dólares. Mesmo que Musk consiga comprar aceleradores mais baratos, estaremos a falar de cerca de 9 mil milhões de dólares. e utilidades, estaremos falando de um projeto ainda mais caro – sem levar em conta o custo da água e da energia elétrica consumidas.

Fonte da imagem: Alexander Gray/unsplash.com

No mês passado, a xAI arrecadou US$ 6 bilhões em outra rodada de financiamento, elevando o valor da empresa para US$ 24 bilhões. Combinados com a rodada anterior, que arrecadou US$ 1 bilhão, os fundos serão suficientes para comprar 100 mil H100s, pagar pessoal e despesas operacionais. – até o momento a xAI está alugando cerca de 16 mil aceleradores H100 da Oracle Cloud, e a intenção da xAI de gastar US$ 10 bilhões em servidores na nuvem Oracle foi relatada recentemente.