O modelo de IA OpenAI GPT-5.6 Sol encontrou as mesmas vulnerabilidades do Fable 5

\nO AI Security Institute (AISI) do Reino Unido anunciou que o modelo de IA recentemente anunciado da OpenAI, GPT-5.6 Sol, tem as mesmas vulnerabilidades de segurança que o Fable 5 da Anthropic, que foi, portanto, bloqueado para todos os estrangeiros pelas autoridades dos EUA.\n\n

\n\nFonte da imagem: Andrew Neel/unsplash.com\n\nEmbora a OpenAI considere o modelo GPT-5.6 Sol o mais seguro até o momento, os pesquisadores do governo do Reino Unido que o testaram antes do lançamento dizem que seus mecanismos de segurança são vulneráveis ​​a hackers.\n\nA AISI afirma ter identificado “vulnerabilidades universais no ciberespaço, incluindo vulnerabilidades que permitem tarefas demoradas em áreas como vulnerabilidades de detecção e desenvolvimento de explorações”. Em outras palavras, os pesquisadores hackearam o GPT-5.6 e fizeram com que ele ignorasse os mecanismos de segurança projetados para prevenir ataques cibernéticos. Eles conseguiram então fazer com que o modelo encontrasse vulnerabilidades de software e hackeasse sistemas de forma autônoma.\n\nPor sua vez, a OpenAI disse que deu aos pesquisadores da AISI do Reino Unido acesso privilegiado aos mecanismos internos do sistema, o que lhes permitiu acelerar o processo de hacking, embora a abordagem fosse difícil para o usuário médio replicar facilmente. A OpenAI disse que estava trabalhando para “reproduzir e resolver os sistemas comprometidos específicos relatados pelo AISI do Reino Unido”.\n\nCom relação às descobertas do AISI, a OpenAI referiu-se a um blog de lançamento do GPT-5.6 no qual reconheceu que “a segurança perfeita não existe” e que “novas vulnerabilidades serão descobertas, bem como novos sistemas comprometidos que contornam as medidas de segurança existentes”. A empresa disse que adota uma abordagem de segurança em “várias camadas”, incluindo monitoramento contínuo das respostas do modelo e um processo para “remediar rapidamente” quaisquer hacks detectados.\n\nA AISI também disse que o jailbreak descoberto emGPT-5.6 é potencialmente mais grave do que o encontrado em Fable. Os pesquisadores o descreveram como “de uso geral”, permitindo explorações autônomas em vez de apenas identificar vulnerabilidades no software.\n\n”Atualmente, quase todos os modelos em uso têm vulnerabilidades não detectadas, então, infelizmente, isso se aplica a tudo, não apenas ao GPT-5.6″, disse Stanislav Fort, pesquisador sênior da startup de segurança AISLE.\n\nAtualmente não há como criar mecanismos de proteção confiáveis, e é por isso que a maioria das empresas de IA usa vários métodos para impedir que os usuários tentem enviar modelos. para tomar ações arriscadas. Isso inclui proteção por meio de classificadores: pequenos modelos que filtram e bloqueiam solicitações suspeitas.\n