OpenAI enfrenta altos custos e escassez de dados ao treinar o modelo Orion AI de próxima geração

A OpenAI está tendo problemas para desenvolver seu novo modelo principal de IA, codinome Orion. Este modelo de IA demonstra um sucesso significativo em tarefas de processamento de linguagem natural, mas a sua eficácia na programação permanece baixa. Estas limitações, juntamente com a escassez de dados de formação e o aumento dos custos operacionais, colocam em causa a rentabilidade e a atratividade do referido modelo de IA para os negócios.

Fonte da imagem: AllThatChessNow/Pixabay

Um desafio é o custo de operação do Orion em data centers OpenAI, que é significativamente mais alto do que os modelos de IA da geração anterior, como GPT-4 e GPT-4o. O aumento significativo nos custos ameaça a relação custo-benefício e pode diminuir o interesse no Orion entre clientes empresariais e assinantes focados em soluções de IA econômicas. O elevado custo de operação levanta questões sobre a viabilidade económica do modelo de IA, especialmente tendo em conta o aumento moderado da sua produtividade.

As expectativas eram altas para a transição do GPT-4 para o Orion, mas o salto quântico não foi tão significativo quanto a transição do GPT-3 para o GPT-4, o que decepcionou um pouco o mercado. Uma tendência semelhante é observada entre outros desenvolvedores de IA: Anthropic e Mistral também estão registrando melhorias moderadas em seus modelos de IA. Por exemplo, os resultados dos testes do modelo Claude 3.5 Sonnet AI da Anthropic mostram que as melhorias de qualidade em cada novo modelo central de IA são cada vez mais incrementais. Ao mesmo tempo, os seus concorrentes estão a tentar desviar a atenção desta limitação, concentrando-se no desenvolvimento de novas funcionalidades, como agentes de IA. Isto sinaliza uma mudança de foco, passando da melhoria do desempenho geral da IA ​​para a criação de suas capacidades únicas.

Para compensar as fraquezas da IA ​​moderna, as empresas estão a ajustar os resultados utilizando filtros adicionais. No entanto, esta abordagem continua a ser apenas uma solução temporária e não elimina as principais limitações associadas à arquitetura dos modelos de IA. O problema é agravado pelas restrições no acesso a dados licenciados e disponíveis publicamente, o que forçou a OpenAI a formar uma equipa especial encarregada de encontrar uma forma de resolver o problema da falta de dados de formação. No entanto, não está claro se a equipe será capaz de coletar dados suficientes para melhorar o desempenho do modelo de IA da Orion e atender aos requisitos do cliente.