A maior parte da receita de US$ 14,5 bilhões da NVIDIA em data centers no terceiro trimestre veio das vendas de seus aceleradores gráficos dedicados de IA e computação de alto desempenho (HPC) H100. De acordo com a empresa de análise Omdia, a NVIDIA vendeu quase meio milhão de aceleradores A100 e H100 no terceiro trimestre deste ano, e a demanda por esses produtos é tão alta que o prazo de entrega dos servidores com eles aumentou de 36 para 52 semanas.
Fonte da imagem: NVIDIA
Os especialistas da Omdia acreditam que os maiores compradores de aceleradores gráficos NVIDIA H100 são Meta✴ e Microsoft. Segundo analistas, cada um deles comprou 150 mil desses aceleradores. Por sua vez, Google, Amazon, Oracle e Tencent compraram cada uma 50 mil desses aceleradores especializados. Vale ressaltar que a maior parte dos aceleradores gráficos de servidor é fornecida a operadoras de serviços de nuvem em hiperescala. Por sua vez, os OEMs de servidores (Dell, Lenovo, HPE) ainda não podem reservar GPUs suficientes para IA e computação de alto desempenho para atender aos seus pedidos de fornecimento de servidores, dizem os especialistas da Omdia.
Fonte da imagem: Omdia
Os analistas esperam que as vendas de GPUs de computação NVIDIA H100 e A100 excedam meio milhão de unidades no quarto trimestre de 2023. Enquanto isso, a demanda pelo H100 e A100 é tão grande que o prazo de entrega dos servidores baseados nessas GPUs chega a 52 semanas. Ao mesmo tempo, Omdia relata que as remessas gerais de servidores em 2023 diminuirão de 17 a 20% em comparação com o ano passado, mas a receita nessa direção crescerá de 6 a 8% ano após ano.
Deve-se notar também que quase todos os maiores compradores de aceleradores dedicados NVIDIA H100 e A100 estão desenvolvendo suas próprias GPUs especializadas para IA, computação de alto desempenho e tarefas gráficas. Portanto, no futuro, o volume de compras de equipamentos da NVIDIA por essas empresas diminuirá à medida que elas mudarem para soluções próprias.
A Omdia também prevê que o mercado geral de servidores crescerá para US$ 195,6 bilhões até 2027. Um dos impulsionadores deste crescimento será a transição para sistemas de servidores especializados, que utilizarão conjuntos de vários coprocessadores projetados para tipos específicos de tarefas. Um exemplo são os servidores de IA da Amazon, que usam 16 coprocessadores Inferentia 2 especializados, bem como os servidores de codificação de vídeo do Google, que são equipados com 20 VCUs especiais ou chips de codificação de vídeo. A Meta✴ também seguiu este exemplo e lançou servidores equipados com 12 processadores especiais para processamento de vídeo.
Observa-se que o interesse no uso de coprocessadores especializados otimizados para executar determinadas tarefas crescerá à medida que forem introduzidas tecnologias que reduzirão o custo de produção desses coprocessadores. As principais áreas de aplicação de tais chips agora são IA e mídia, mas no futuro também se espera que eles sejam utilizados nos segmentos de gerenciamento de banco de dados e serviços web.