O OpenAI ainda não está pronto para usar ativamente os aceleradores do Google em sua infraestrutura

No sábado, foi revelado que a OpenAI estava experimentando o uso dos aceleradores TPU do Google para computação relacionada a inferência, em vez do hardware tradicional da Nvidia. Representantes da OpenAI foram rápidos em garantir à Reuters que a startup não tinha planos de implementar TPUs em larga escala.

Fonte da imagem: Google Cloud

Ao mesmo tempo, como observa a Reuters, os representantes da OpenAI não negam que começaram a experimentar com os aceleradores do Google, mas os testes estão em estágio inicial e não implicam em escalonamento rápido e ativo. Podem surgir sérias barreiras ao longo desse caminho, na forma de adaptação a longo prazo do software às características arquitetônicas de componentes computacionais específicos. A maior parte dos cálculos continuará sendo realizada pela OpenAI usando aceleradores AMD e Nvidia. Além disso, foi relatado anteriormente que a OpenAI está desenvolvendo seus próprios chips para aceleradores de IA e espera receber um projeto digital pronto para produção em massa já neste ano.

Ao mesmo tempo, a disposição do Google em oferecer seus aceleradores a clientes terceirizados indica uma mudança na política da empresa. A Apple já se juntou a eles, assim como as startups Anthropic e Safe Superintelligence. Estas duas últimas foram fundadas por pessoas da OpenAI, então a tendência pode ser considerada bastante disseminada. Outro ponto é que a própria OpenAI ainda não tem grandes expectativas quanto ao uso dos aceleradores do Google.