O Google une forças com a Meta para desafiar o domínio da Nvidia no software de IA (3DNews)

O Google está trabalhando para melhorar o desempenho de seus chips de IA ao executar o PyTorch. Este projeto de código aberto é uma das ferramentas mais utilizadas por desenvolvedores de modelos de IA. Para acelerar o desenvolvimento, o Google está colaborando com a Meta✴, criadora e mantenedora do PyTorch. A parceria significa que a Meta✴ terá acesso a uma gama mais ampla de aceleradores de IA. Essa iniciativa pode desafiar o domínio de longa data da Nvidia no mercado de computação de IA.

Fonte da imagem: unsplash.com

Essa iniciativa faz parte do plano ambicioso do Google para transformar suas Unidades de Processamento Tensorial (TPUs) em uma alternativa viável às GPUs líderes de mercado da Nvidia. As vendas de TPUs se tornaram um fator crucial para o crescimento da receita de nuvem do Google. No entanto, o hardware por si só não é suficiente para impulsionar a adoção dos aceleradores de IA do Google.

A nova iniciativa da empresa, conhecida como TorchTPU, visa superar uma barreira fundamental que impede a adoção dos chips TPU, tornando-os totalmente compatíveis e fáceis de usar para desenvolvedores PyTorch. O Google também está considerando disponibilizar partes de seu software como código aberto para acelerar a adoção. Comparado aos esforços anteriores para dar suporte ao PyTorch em TPUs, o Google está dedicando maior atenção organizacional, recursos e importância estratégica ao TorchTPUs, já que as empresas que buscam usar esses chips consideram a pilha de software o gargalo da tecnologia.

O PyTorch, um projeto de código aberto ativamente apoiado pela Meta✴, é uma das ferramentas mais utilizadas por desenvolvedores na criação de modelos de IA. No Vale do Silício, poucos desenvolvedores escrevem cada linha de código que realmente será executada em chips da Nvidia, AMD ou Google. Os desenvolvedores dependem de ferramentas como o PyTorch, uma coleção de bibliotecas e frameworks de código pré-escritos.

Fonte da imagem: pytorch.org

O domínio da Nvidia é impulsionado não apenas por seus aceleradores de IA, mas também por seu ecossistema de software CUDA, que está profundamente integrado ao PyTorch e se tornou o método padrão para treinar e executar grandes modelos de IA. Os engenheiros da Nvidia trabalharam arduamente para garantir que o software desenvolvido com PyTorch seja executado da forma mais rápida e eficiente possível nos chips da empresa.

A maior parte do software de IA do Google é construída na plataforma Jax, o que representa um obstáculo para clientes que usam PyTorch para desenvolvimento. Portanto, tornou-se especialmente importante para o Google garantir o máximo suporte ao PyTorch em seus aceleradores de IA. Se bem-sucedido, o TorchTPU poderá reduzir significativamente os custos de migração para empresas que buscam uma alternativa às GPUs da Nvidia.

Para acelerar o desenvolvimento, o Google está trabalhando em estreita colaboração com a Meta✴, criadora e mantenedora do PyTorch. Essa parceria poderá dar à Meta✴ acesso a mais chips de IA do Google. A Meta✴ tem interesse direto no desenvolvimento de TorchTPUs, que permitirão à empresa reduzir os custos de inferência e diversificar sua infraestrutura de IA, abandonando as GPUs da Nvidia.

Como primeiro passo, a Meta✴ propôs o uso de serviços gerenciados pelo Google, nos quais clientes como a Meta✴ teriam acesso aos aceleradores de IA do Google, com o Google fornecendo suporte operacional. Este ano, o Google começou a vender TPUs diretamente para os data centers de seus clientes.A empresa precisa dessa infraestrutura tanto para lançar seus próprios produtos de IA, incluindo o chatbot Gemini e a busca com inteligência artificial, quanto para fornecer acesso aos clientes do Google.Nuvem.

Fonte da imagem: Google

“Estamos vendo uma demanda enorme e crescente tanto para nossa infraestrutura de TPU quanto para a de GPU”, disse um porta-voz do Google. “Nosso objetivo é oferecer aos desenvolvedores a flexibilidade e a escalabilidade de que precisam, independentemente do hardware que escolherem.”