Amazon, AMD e uma série de startups oferecem cada vez mais alternativas aos aceleradores de inteligência artificial da Nvidia, mas é muito cedo para descartar o líder de mercado – ele ainda oferece vantagens inegáveis em desempenho e software, escreve o The New York Times.
Fonte da imagem: nvidia.com
Há um ano, a AMD lançou os aceleradores Instinct MI300 AI, que, de acordo com estimativas preliminares, já atingiram US$ 5 bilhões em vendas. A Amazon apresentou esta semana a segunda geração de seus aceleradores Trainium, o que ajudará a empresa a fortalecer sua posição no campo. de treinamento e operação de sistemas de IA. A julgar pelas reações dos clientes a estas soluções, a Nvidia tem alternativas válidas. A empresa há muito que domina o mercado, ajudando-a a aumentar o seu valor para 3 biliões de dólares, mas agora os seus concorrentes estão a mostrar que podem oferecer velocidades mais rápidas a preços mais baixos.
Isso ocorre porque várias empresas de tecnologia, incluindo não apenas gigantes como AMD e Amazon, mas também pequenas startups, começaram a adaptar chips para executar modelos de IA (inferência) já treinados. “O verdadeiro valor comercial vem da inferência, e a inferência está começando a ganhar escala. Estamos começando a ver mudanças”, disse o CEO da Qualcomm, Cristiano Amon; A fabricante de chips móveis também planeja usar aceleradores Amazon para tarefas de IA. Os concorrentes da Nvidia decidiram seguir seu exemplo de outra forma – passaram a oferecer não apenas aceleradores, mas computadores prontos projetados para funcionar com IA.
A crescente concorrência no campo de hardware de IA tornou-se óbvia quando a Amazon ofereceu aos clientes recursos de aluguel baseados nos novos aceleradores Trainium2 – incluindo a Apple, que deixou críticas positivas. A Amazon também introduziu servidores com 16 e 64 aceleradores com conexões de alta velocidade que ajudam a aumentar o desempenho ao executar sistemas de IA. A Amazon também está construindo um cluster gigante de IA para seu parceiro Anthropic, que será capaz de treinar seus modelos em centenas de milhares de aceleradores Trainium2. Os gastos dos operadores de data centers em sistemas de IA sem chips Nvidia crescerão 49% este ano, atingindo US$ 126 bilhões, estimam os analistas da Omdia.
Fonte da imagem: aws.amazon.com
Mas o aumento da concorrência ainda não significa que a Nvidia perderá a liderança. O CEO da empresa, Jensen Huang, disse que ela tem pontos fortes em software de IA e capacidades de execução de modelos. A nova família de chips Blackwell requer mais potência para funcionar, mas seu desempenho por watt é superior ao da concorrência. Os atuais aceleradores Nvidia custam até US$ 15.000 cada, e os preços da Blackwell devem estar na casa das dezenas de milhares. Entretanto, as startups que conseguiram atrair investimentos estão a aumentar, com a SambaNova Systems, a Groq e a Cerebras Systems a afirmarem ter alcançado vantagens tanto em termos de desempenho como de custos nos seus lançamentos de IA.
Alguns clientes já começaram a mudar os seus padrões de trabalho. O diretor executivo do Texas Advanced Computing Center, Dan Stanzione, disse que a organização planeja comprar um supercomputador baseado em Blackwell no próximo ano, mas usará aceleradores SambaNova, que têm menor consumo de energia, para executar tarefas de IA. Meta✴ também relatou que treinou o modelo Llama 3.1 405B em chips Nvidia, mas usa aceleradores AMD MI300 para executá-lo.
Amazon, Google, Microsoft e Meta✴ continuam a construir grandes clusters em aceleradores Nvidia, mas também estão desenvolvendo seus próprios chips para acelerar certas tarefas de computação e reduzir custos. O Google pretende começar a alugar recursos de seus aceleradores Trillium de sexta geração, que são quase cinco vezes mais rápidos que seus antecessores, até o final do ano. A Amazon, considerada uma retardatária em IA, destinou US$ 75 bilhões para aceleradores de IA e outros hardwares de computação este ano. Os aceleradores Trainium de primeira geração não receberam muita aceitação do mercado, mas a empresa está mais otimista em relação ao Trainium2, com expectativa de lançamento de mais dentro. um ano. Trainium3 mais poderoso. Os especialistas estimam que o Trainium2 oferecerá um aumento de 40% no desempenho por dólar em comparação com o hardware baseado em Nvidia.