A divisão AWS da gigante americana da Internet Amazon é há muito tempo um dos maiores players no mercado de serviços em nuvem. É fortemente dependente de componentes e software da Nvidia, mas ao mesmo tempo está desenvolvendo sua própria infraestrutura, utilizando os desenvolvimentos do Annapurna Labs, adquirido em 2015 por US$ 350 milhões.
Fonte da imagem: Amazon
No próximo mês, informa o Financial Times, a empresa deverá demonstrar ao público seus aceleradores Trainium 2, que podem lidar com o treinamento de grandes modelos de linguagem. Amostras desses aceleradores já estão sendo usadas pela startup Anthropic, na qual a Amazon investiu US$ 4 bilhões. Os clientes da Amazon nesta área também incluem Databricks, Deutsche Telekom, Ricoh e Stockmark.
O vice-presidente de serviços de computação e rede da AWS, Dave Brown, disse: “Queremos ser o melhor lugar para rodar a Nvidia, mas ao mesmo tempo achamos que não há problema em ter uma alternativa”. Já agora, os aceleradores da família Inferentia são 40% mais baratos que as soluções Nvidia ao gerar respostas a partir de modelos de IA. Quando se trata de gastar dezenas de milhões de dólares, essas economias podem ser críticas na escolha de uma plataforma de computação.
Até ao final deste ano, as despesas de capital da Amazon poderão atingir os 75 mil milhões de dólares e, no próximo ano, serão ainda mais elevadas. No ano passado, foram limitados a 48,4 mil milhões de dólares, e a dimensão do aumento mostra o quão importante a empresa considera o financiamento da sua infraestrutura no contexto do rápido desenvolvimento do mercado de sistemas de IA. Os especialistas do Grupo Futurum explicam que os grandes provedores de serviços em nuvem estão se esforçando para formar sua própria estrutura verticalmente integrada e homogênea dos chips utilizados. A maioria deles se esforça para desenvolver seus próprios chips para aceleradores de computação, o que lhes permite reduzir custos, aumentar os lucros e fortalecer o controle sobre a disponibilidade de chips e o desenvolvimento de negócios em geral. “Não se trata tanto do chip, mas do sistema como um todo”, explica Rami Sinno, diretor de desenvolvimento do Annapurna Labs. Poucas empresas conseguem replicar o que a Amazon faz em larga escala, disse ele.
Os chips proprietários permitem que a Amazon consuma menos energia e melhore a eficiência de seus próprios data centers. A TechInsights compara os chips da Nvidia a peruas, enquanto as próprias soluções da Amazon se assemelham a hatchbacks menores projetados para executar uma gama restrita de tarefas. A Amazon não tem pressa em compartilhar dados sobre testes de desempenho de seus aceleradores, mas os chips Trainium 2 devem ser quatro vezes mais rápidos que seus antecessores, de acordo com os dados disponíveis. A mera disponibilidade de alternativas às soluções Nvidia já pode ser muito apreciada pelos clientes da AWS.