OpenAI fica sem aceleradores de IA — CEO explica atraso do GPT-4.5

A OpenAI anunciou o lançamento de seu modelo de IA GPT-4.5, mas apenas usuários da assinatura ChatGPT Pro, que custa US$ 200 por mês, têm acesso a ele. O lançamento completo do novo modelo teve que ser adiado porque “crescemos muito e ficamos sem GPUs” necessárias para fazê-lo acontecer, disse o CEO Sam Altman.

Fonte da imagem: nvidia.com

«Na próxima semana, adicionaremos dezenas de milhares de GPUs e as lançaremos na tarifa Plus”, prometeu o CEO da OpenAI, acrescentando que a empresa receberá em breve centenas de milhares de aceleradores. Devido à escassez global de capacidade computacional, a empresa foi forçada a recorrer à Broadcom para desenvolver em conjunto seu próprio acelerador de IA. No entanto, isso levará mais de um ano e, enquanto isso, para atender às suas necessidades e às necessidades de seus clientes, a empresa terá que trabalhar com equipamentos da Nvidia e de outros fornecedores.

Isso mais uma vez destaca a posição vantajosa em que a Nvidia permanece. A empresa anunciou recentemente que a última geração de aceleradores Blackwell está esgotada até outubro deste ano. E com o setor global de data centers planejando expansões em larga escala de instalações existentes e a construção de novas, o sucesso dos centros verdes continuará por mais alguns anos. Somente a OpenAI e a Microsoft estão trabalhando em um supercomputador de US$ 100 bilhões, e Elon Musk pretende expandir seu supercomputador Colossus em Memphis, Tennessee, para mais de um milhão de aceleradores. Na Coreia do Sul, uma instalação de 3 GW recebeu aprovação, e há até planos para lançar um data center na Lua.

O CEO da Microsoft, Satya Nadella, expressou preocupação de que as instalações de IA se tornarão sobrecarregadas, mesmo que os novos modelos se tornem cada vez mais exigentes em termos computacionais. Um excelente exemplo disso é o novo OpenAI GPT-4.5. É um “modelo gigante e caro”, como Sam Altman o descreveu. O custo de conexão será de US$ 75 para 1 milhão de tokens de entrada e US$ 150 para 1 milhão de tokens de saída – para comparação, para GPT-4o essas taxas são de US$ 2,50 e US$ 10, respectivamente. Apesar do preço, “não é um modelo de raciocínio e não superará os padrões”, admitiu o CEO da OpenAI, mas disse que “é um tipo diferente de inteligência, tem uma magia que eu nunca senti antes”.