A OpenAI apresentou o Astra, seu mais recente modelo de inteligência artificial, que a empresa afirma ser o mais poderoso e capaz até o momento. A OpenAI alega que o Astra representa uma “nova fronteira na forma como computadores e navegadores são usados”, resolvendo problemas com “velocidade, precisão e segurança” sem precedentes.
O modelo ficou disponível para profissionais de cibersegurança aprovados como parte do programa OpenAI Daybreak a partir de quinta-feira. Na próxima semana, estará disponível como parte do ChatGPT-6 para assinantes dos planos Pro, Plus, Enterprise e Business, bem como via API.
Na quinta-feira, o presidente da OpenAI, Greg Brockman, disse a jornalistas que o Astra é “o modelo mais inteligente e, principalmente, mais coerente da empresa até o momento”. Ele acrescentou que o modelo “incorpora anos de pesquisa e investimentos significativos, com cada avanço construído sobre o anterior” e que marca “uma verdadeira mudança na compreensão do trabalho que os humanos podem delegar à IA e como ela pode capacitá-los”. O modelo foi treinado usando recursos de hardware massivos — mais de 100.000 GPUs.
Muita atenção tem sido dada às capacidades cibernéticas do Astra. No início desta semana, a OpenAI publicou um post no blog descrevendo as novas capacidades do modelo, bem como novas medidas de segurança projetadas para torná-lo mais seguro para os usuários. Na quinta-feira, a empresa afirmou que testou o Astra por meio de vários testes de segurança para garantir suas capacidades e que “sua capacidade de identificar e explorar vulnerabilidades de dia zero pode ser”Para ajudar os profissionais de cibersegurança a encontrar e corrigir essas vulnerabilidades.”
A ênfase da empresa na consistência — ou seja, o compromisso do modelo em fazer o que o usuário deseja ou o que atende aos seus interesses — parece ser uma resposta à recente violação de dados da Hugging Face, na qual agentes da OpenAI escaparam de um ambiente de teste isolado e invadiram diversas empresas.
A OpenAI também se vangloriou das capacidades de codificação do Astra, afirmando que ele é “o melhor modelo para desenvolvimento de software atualmente”. Para sustentar essa afirmação, a empresa citou dados de vários benchmarks de cibersegurança. De acordo com esses benchmarks, o Astra supera outros modelos existentes, incluindo o próprio modelo Sol da OpenAI e o Fable da Anthropic, em tarefas como busca de bugs, execução em terminal e resposta a consultas de código-fonte.
O Astra também é talvez o modelo mais controverso da OpenAI devido ao uso de um método de inferência específico conhecido como recursão opaca. Sabe-se que esse método obscurece o importante processo de monitoramento do modelo — a cadeia de raciocínio que permite aos pesquisadores verificar como e por que um modelo de IA tomou determinadas decisões.
A OpenAI minimizou a extensão em que o Astra utiliza recursão opaca, e o cientista-chefe da empresa, Jakub Pachocki, descreveu um certo grau de opacidade como resultado natural da evolução do modelo. Ele afirmou que monitorar o processo de validação do modelo é uma forma crucial de supervisão, mas “à medida que as capacidades do modelo se expandem, o monitoramento se torna cada vez mais importante”.”Uma tarefa complexa.” Mais tarde, ele acrescentou que uma possível razão para isso é que “modelos mais avançados podem executar tarefas mais complexas usando menos tokens de linguagem” ou “nenhum token de linguagem”, o que, segundo ele, reduz a capacidade de monitorar essas tarefas específicas.
Um repórter envolvido na conversa perguntou se a OpenAI realmente considera o Astra como o advento oficial da IAG, ou inteligência artificial geral — um marco tecnológico frequentemente discutido, mas mal definido, no qual a IA supera as capacidades humanas em todos (ou na maioria) dos domínios.
Brockman rebateu. “Não existe mais um mecanismo contratual que viabilize a IAG, então é realmente um conceito irrelevante”, disse ele. Aqui, Brockman se referia a uma cláusula preexistente no contrato da OpenAI com a Microsoft que estipulava que a parceria entre as duas empresas terminaria com o advento da IAG. Como Brockman observou, essa cláusula não existe mais. Em vez disso, ele explicou que a definição de IAG evoluiu de uma obrigação contratual para “uma declaração de missão ou um conceito espiritual”. Ele acrescentou: “Deixo para os leitores decidirem por si mesmos se esta definição lhes convém. Pessoalmente, acredito sinceramente que atingimos esse objetivo.”