No final do ano passado, as autoridades americanas proibiram a NVIDIA de fornecer aceleradores A100 e H100 para a China. Em resposta, a NVIDIA decidiu lançar os aceleradores H800 e A800 para a China, que são seus equivalentes menos produtivos e, portanto, não estão sujeitos a restrições de sanções.
Fonte da imagem: NVIDIA
O aumento na demanda por modelos complexos de linguagem neural (LLMs), como o Generative Pre-trained Transformer (GPT), que são treinados em grandes conjuntos de dados de texto para gerar texto semelhante ao humano, levou ao aumento da demanda e investimento em aceleradores de computação, com a ajuda de que esses modelos são treinados.
Segundo o MyDrivers, o acelerador A800 para o mercado chinês oferece 70% do desempenho do A100 regular. O último demonstra 9,7 TFLOPS em operações FP64, 19,5 TFLOPS em problemas FP64 usando núcleos tensores e até 624 TFLOPS em problemas mistos de FP16 e BF16. Assim, com uma redução de desempenho de 30%, os aceleradores A800 apresentam 6,8 Tflops em tarefas FP64, 13,7 Tflops em operações FP64 usando tensor cores e 437 Tflops em tarefas mistas FP16 e BF16.
De acordo com o MyDrivers, o custo da NVIDIA A800 na China chega a 100.000 yuans, o que equivale aproximadamente a US$ 14.462. No entanto, este não é o acelerador NVIDIA mais rápido disponível para o mercado chinês. Afinal, existe também o modelo H800, que se posiciona em uma classe superior. É verdade que a publicação não fornece dados mais detalhados sobre seu desempenho.