A Huawei começou a enviar seus clusters avançados CloudMatrix 384 para data centers que atendem empresas de tecnologia chinesas que não têm acesso aos chips da Nvidia devido às sanções dos EUA.
A Huawei já enviou mais de uma dúzia de sistemas CloudMatrix 384 até o momento. Analistas do setor ficaram impressionados com a velocidade com que a Huawei desenvolveu e distribuiu os sistemas CloudMatrix, que incluem 384 aceleradores de IA e podem fornecer poder de computação suficiente para treinar modelos de IA e, então, executar serviços relacionados. Esses clusters superam os sistemas Nvidia em desempenho, reconheceram os especialistas da SemiAnalysis.
Em abril, Washington proibiu a Nvidia de fornecer até mesmo seus aceleradores H20 para a China, que foram especialmente projetados para atender às restrições das sanções; a empresa alertou que isso reduziria sua receita em US$ 5,5 bilhões. Em resposta, a Huawei acelerou o desenvolvimento de seus próprios chips para ajudar empresas de tecnologia locais a competir com desenvolvedores de outros países. O CloudMatrix inclui 384 processadores Huawei Ascend 910C, que são menos potentes que os atuais Nvidia GB200, mas o cluster chinês como um todo oferece mais poder de computação que os sistemas NVL72 da Nvidia baseados em 72 chips GB200. Segundo a própria Huawei, o CloudMatrix 384 é 67% mais produtivo que o NVL72 e mais de três vezes mais potente que seu concorrente americano em termos de capacidade total de memória. Para compensar o menor desempenho de chips individuais, a Huawei aproveitou sua experiência em telecomunicações e aplicou tecnologias de rede avançadas aos seus clusters.
Mas o CloudMatrix 384 também tem desvantagens significativas. Devido ao maior número de chips, um sistema desse tipo consome significativamente mais energia do que o NVL72 da Nvidia, e programar os sistemas da Huawei exige mais esforço dos desenvolvedores do que interagir com o CUDA da Nvidia – os custos de mão de obra aumentam de três a cinco vezes. Dado que a China não tem escassez de eletricidade ou mão de obra, o cluster CloudMatrix 384 parece ser uma solução viável para clientes que não podem comprar hardware da Nvidia. O Huawei CloudMatrix 384 custa aproximadamente RMB 60 milhões (US$ 8,2 milhões), mas o preço exato depende do contrato individual. O preço inicial do Nvidia NVL72 está definido em cerca de US$ 3 milhões e pode variar dependendo do fabricante do hardware e das necessidades do cliente.