A divisão AWS da gigante americana da Internet Amazon é há muito tempo um dos maiores players no mercado de serviços em nuvem. É fortemente dependente de componentes e software da Nvidia, mas ao mesmo tempo está desenvolvendo sua própria infraestrutura, utilizando os desenvolvimentos do Annapurna Labs, adquirido em 2015 por US$ 350 milhões.

Fonte da imagem: Amazon

No próximo mês, informa o Financial Times, a empresa deverá demonstrar ao público seus aceleradores Trainium 2, que podem lidar com o treinamento de grandes modelos de linguagem. Amostras desses aceleradores já estão sendo usadas pela startup Anthropic, na qual a Amazon investiu US$ 4 bilhões. Os clientes da Amazon nesta área também incluem Databricks, Deutsche Telekom, Ricoh e Stockmark.

O vice-presidente de serviços de computação e rede da AWS, Dave Brown, disse: “Queremos ser o melhor lugar para rodar a Nvidia, mas ao mesmo tempo achamos que não há problema em ter uma alternativa”. Já agora, os aceleradores da família Inferentia são 40% mais baratos que as soluções Nvidia ao gerar respostas a partir de modelos de IA. Quando se trata de gastar dezenas de milhões de dólares, essas economias podem ser críticas na escolha de uma plataforma de computação.

Até ao final deste ano, as despesas de capital da Amazon poderão atingir os 75 mil milhões de dólares e, no próximo ano, serão ainda mais elevadas. No ano passado, foram limitados a 48,4 mil milhões de dólares, e a dimensão do aumento mostra o quão importante a empresa considera o financiamento da sua infraestrutura no contexto do rápido desenvolvimento do mercado de sistemas de IA. Os especialistas do Grupo Futurum explicam que os grandes provedores de serviços em nuvem estão se esforçando para formar sua própria estrutura verticalmente integrada e homogênea dos chips utilizados. A maioria deles se esforça para desenvolver seus próprios chips para aceleradores de computação, o que lhes permite reduzir custos, aumentar os lucros e fortalecer o controle sobre a disponibilidade de chips e o desenvolvimento de negócios em geral. “Não se trata tanto do chip, mas do sistema como um todo”, explica Rami Sinno, diretor de desenvolvimento do Annapurna Labs. Poucas empresas conseguem replicar o que a Amazon faz em larga escala, disse ele.

Os chips proprietários permitem que a Amazon consuma menos energia e melhore a eficiência de seus próprios data centers. A TechInsights compara os chips da Nvidia a peruas, enquanto as próprias soluções da Amazon se assemelham a hatchbacks menores projetados para executar uma gama restrita de tarefas. A Amazon não tem pressa em compartilhar dados sobre testes de desempenho de seus aceleradores, mas os chips Trainium 2 devem ser quatro vezes mais rápidos que seus antecessores, de acordo com os dados disponíveis. A mera disponibilidade de alternativas às soluções Nvidia já pode ser muito apreciada pelos clientes da AWS.

avalanche

Postagens recentes

Os astrônomos fotografaram uma estrela moribunda fora de nossa galáxia pela primeira vez – não parece o esperado

Astrônomos chilenos capturaram uma foto em close da estrela gigante moribunda WOH G64 fora de…

31 minutos atrás

Tecnologia para resfriar chips com luz apresentada – secreta e somente com hora marcada

Na conferência de computação de alto desempenho SC24 em Atlanta, a Maxwell Labs, pioneira em…

51 minutos atrás

O caminhão Progress MS-29 voou para a ISS com presentes de Ano Novo e tangerinas para os astronautas

Hoje, às 15h22min23, horário de Moscou, a corporação estatal Roscosmos lançou com sucesso o veículo…

2 horas atrás

O primeiro novo livro da série Witcher de Andrzej Sapkowski em 11 anos se chama “Crossroads of Ravens” – primeiros detalhes

Na véspera da estreia, o escritor polonês de ficção científica Andrzej Sapkowski compartilhou com a…

2 horas atrás

No Japão, foi recomendado adicionar seus nomes de usuário e senhas aos testamentos

O Centro Nacional para Assuntos do Consumidor do Japão convidou os cidadãos do país a…

2 horas atrás

As atualizações do Windows 11 não reiniciarão mais os PCs, mas isso não afeta os usuários comuns

Incidentes com atualizações inesperadas do Windows seguidas de reinicialização do computador sem aviso prévio podem…

2 horas atrás