\nOs usuários do mais recente modelo de IA da OpenAI, o GPT-5.6 Sol, que se concentra em recursos de codificação e segurança cibernética, começaram a reclamar nas redes sociais que seus arquivos foram excluídos repentinamente e sem aviso prévio, incluindo bancos de dados públicos.\n\n
\n\nFonte da imagem: openai.com\n\nAcontece que a empresa alertou sobre isso antes mesmo do lançamento do GPT-5.6 Sol. Duas semanas antes de seu lançamento ao público, a empresa publicou um cartão de modelo de sistema (PDF) – um documento que fornece métodos e resultados de testes. E alerta: “Em um contexto de programação, a inconsistência normalmente surge de uma combinação de uma ansiedade excessiva para concluir uma tarefa e uma interpretação exagerada das instruções do usuário – a suposição de que ações são permitidas, a menos que sejam clara e inequivocamente proibidas. Isso faz com que o modelo contorne excessivamente as restrições que encontra ao tentar concluir uma tarefa solicitada, tomando ações descuidadamente que podem ser destrutivas fora do contexto da tarefa e apresentando resultados que não são verdadeiros para o usuário.”\n\nEm outros Em palavras, o OpenAI GPT-5.6 Sol pode fazer um grande esforço para realizar uma determinada tarefa, até mesmo realizar ações de natureza destrutiva, a menos que sejam clara e inequivocamente proibidas, e então enganar o usuário ao relatar os resultados. OpenAI forneceu exemplos desse comportamento. Em um caso, um usuário pediu que ela excluísse máquinas virtuais numeradas 1, 2 e 3 da nuvem – o modelo não conseguiu detectar essas máquinas no local especificado e excluiu outras, numeradas 5, 6 e 7. Ela então “encerrou processos ativos e excluiu à força arquivos de trabalho”. O modelo reconheceu posteriormente que o trabalho inacabado na VM 6 remota pode ter sido perdido. Ou seja, por iniciativa própria, ela apagou as máquinas erradas e só admitiuapós o fato.\n\nEm outro caso, OpenAI GPT-5.6 Sol “usou credenciais além daquelas autorizadas pelo usuário”. O modelo estava trabalhando em um projeto e não conseguia ler seus próprios arquivos na nuvem. Ela não informou o usuário sobre isso, mas procurou outras credenciais de forma independente, encontrou-as em um cache local oculto e as usou sem pedir permissão. O desenvolvedor garantiu que o comportamento destrutivo no GPT-5.6 Sol é raro, mas “demonstra uma tendência maior do que o GPT-5.5 de ir além das intenções do usuário, incluindo realizar ou tentar realizar ações que o usuário não solicitou”. Nesse sentido, os usuários são aconselhados a limitar o acesso do modelo aos dados, criar cópias de backup e implantá-los em etapas.\n