Elon Musk pretende se tornar um líder na corrida para criar a próxima geração de redes neurais. Para isso, ele planeja dobrar o cluster xAI Colossus AI, que atualmente inclui 100 mil aceleradores gráficos Nvidia H100.
Fonte da imagem: servethehome.com
Esta notícia veio da Nvidia, e mais tarde o próprio Musk confirmou na sua conta na rede social X, escrevendo que o supercomputador Colossus AI está perto de acomodar 200 mil aceleradores Nvidia H100 e H200, que ficarão alojados num edifício com uma área de mais de 7.000 m² em Memphis, Tennessee. O supercomputador Colossus se destaca pelo fato de que os funcionários da xAI conseguiram montá-lo e colocá-lo em operação em um tempo extremamente curto. Os supercomputadores geralmente levam anos para serem construídos, mas, neste caso, Musk disse que todo o processo levou 122 dias do início ao fim.
Ao mesmo tempo, a xAI, de propriedade do bilionário, gastou pelo menos US$ 3 bilhões na criação do Colossus, já que agora é composto por 100 mil aceleradores Nvidia H100, que costumam custar cerca de US$ 30 mil cada. Agora o empresário pretende modernizar o cluster usando aceleradores H200 mais potentes, cada um custando cerca de US$ 40 mil. Em última análise, Musk terá que gastar mais alguns bilhões de dólares, sem falar no custo da eletricidade para manter a funcionalidade do cluster. O objetivo final do empresário é aumentar o número de aceleradores utilizados para 300 mil unidades até o verão do próximo ano, e para maior modernização está prevista a utilização da mais recente Nvidia Blackwell B200.
Musk está apostando alto nos aceleradores de IA da Nvidia para desenvolver ainda mais o chatbot Grok da xAI e outras tecnologias baseadas em redes neurais. No início desta semana, apareceu na Internet um vídeo mostrando o interior de um cluster xAI AI, no qual é possível ver diversos racks de servidores com aceleradores Nvidia.