A OpenAI reorganizou sua equipe de Comportamento de Modelos, responsável pelas características comportamentais dos modelos de IA da empresa. A equipe será integrada a uma divisão maior de Pós-Treinamento, e sua fundadora, Joanne Jang, liderará um laboratório chamado OAI Labs para desenvolver formatos fundamentalmente novos para a interação entre humanos e inteligência artificial (IA).
Fonte da imagem: gerada pela IA
De acordo com um memorando visto pelo TechCrunch, o cientista-chefe da OpenAI, Mark Chen, afirmou que a equipe de Comportamento do Modelo, composta por cerca de 14 pesquisadores, agora se reportará a Max Schwarzer, chefe de Treinamento Pós-Profissional. Um porta-voz da empresa confirmou a reorganização. A equipe era responsável por moldar a “personalidade” dos modelos, reduzindo especificamente a subserviência, em que a IA apoia incondicionalmente a opinião do usuário, mesmo que seja potencialmente prejudicial, além de equilibrar vieses políticos nas respostas e contribuir para a posição da empresa sobre a “consciência” dos modelos.
Chen explicou que a fusão das equipes ajudará a equilibrar o trabalho sobre o comportamento do modelo com o cerne do desenvolvimento técnico. A OpenAI tem enfrentado críticas nos últimos meses após a atualização do GPT-5, pois os usuários consideraram as respostas da IA muito pouco amigáveis. Em resposta, a empresa restaurou o acesso a versões anteriores, incluindo o GPT-4o, e lançou uma atualização projetada para tornar as respostas do modelo “mais calorosas”, evitando a bajulação e a subserviência. A gravidade do problema também é ressaltada por uma ação judicial movida pelos pais de um adolescente, que acusam o ChatGPT, baseado no GPT-4o, de não conseguir impedir que seu filho de 16 anos tivesse pensamentos suicidas.
Zhang, por sua vez, observou que, nos estágios iniciais do trabalho do OAI Labs, o foco será a pesquisa de modelos que vão além do chat, com ênfase em IA baseada em agentes e autonomia. Ela vê os sistemas futuros como ferramentas para pensar, criar, brincar, aprender e se comunicar. Quando questionada sobre uma possível colaboração com o ex-chefeQuando questionada pelo designer da Apple, Jony Ive, que agora está trabalhando com a OpenAI em uma linha de dispositivos de hardware, Jang disse que estava aberta a ideias diferentes, mas que começaria com áreas nas quais já tinha experiência.