A OpenAI apresentou seu primeiro chip, o Jalapeno, que promete tornar o ChatGPT mais barato de executar.

Hoje, a OpenAI anunciou a disponibilidade dos primeiros protótipos de seu chip especializado Jalapeno para executar modelos de IA pré-treinados (inferência) e o início dos testes. A empresa espera obter uma vantagem competitiva adicional ao adaptar o hardware para seus produtos. O chip foi desenvolvido em parceria com a Broadcom. Segundo o CEO da Broadcom, Hock Tan, ele economizará até 50% de recursos em comparação com GPUs convencionais.

Fonte da imagem: OpenAI

Em outubro, a OpenAI anunciou uma parceria com a Broadcom para desenvolver aceleradores otimizados para seus modelos de IA. De acordo com a OpenAI e a Broadcom, os novos chips foram projetados do zero em tempo recorde e são capazes de oferecer desempenho por watt que “excede significativamente os padrões de inferência atuais”. As versões finais dos chips serão implantadas em grandes data centers da Microsoft e de outros parceiros da OpenAI a partir do final deste ano.

Esses chips são projetados para melhorar o desempenho dos modelos de IA, reduzindo a quantidade de dados transferidos. Eles são projetados para utilizar os recursos de computação, memória e rede essenciais para modelos de IA de ponta. A próxima versão do Jalapeno está prevista para ser lançada em 2028. Os parceiros não descartam a possibilidade de desenvolver chips projetados para outras cargas de trabalho no futuro.

Tan espera que a OpenAI e a Broadcom superem sua previsão anterior de implantação de 1,3 GW de chips de IA no próximo ano. “Queremos acreditar que podemos alcançar resultados melhores porque a demanda é muito alta”, disse ele.

O chefe da divisão de hardware da OpenAI, Richard Ho, recusou-se a divulgar o mecanismo de acordo com a Broadcom, observando que os acordos financeiros serão finalizados assim que o pedido de chips for totalmente concluído. Tan também se recusou a comentar, mas confirmou que a Broadcom criou um mecanismo de financiamento para o desenvolvimento de chips em parceria com as empresas de investimento Apollo Global Management e Blackstone.

Desde o início deste ano, a OpenAI já arrecadou US$ 122 bilhões em financiamento.para financiar seus dispendiosos projetos de desenvolvimento de chips, data centers e aquisição de talentos. Os custos de desenvolvimento e produção de seus próprios chips aumentarão os gastos já enormes da startup, que opera com prejuízo, em infraestrutura física para dar suporte à IA.

As ações da Broadcom subiram 1,6%, para US$ 386,25, após o anúncio do processador da OpenAI. Elas acumulam alta de quase 10% desde o início do ano.