O grupo Anthropic Mythos invadiu quase todos os sistemas confidenciais da NSA em questão de horas.

Um modelo avançado de inteligência artificial, o Anthropic Mythos, conseguiu invadir “quase todos” os sistemas confidenciais da Agência de Segurança Nacional (NSA), uma das agências de inteligência mais importantes e influentes dos Estados Unidos, em apenas algumas horas durante uma avaliação de segurança controlada, segundo reportagem da revista The Economist.

Fonte da imagem: anthropic.com

O senador Mark Warner, vice-presidente do Comitê de Inteligência da Câmara dos Representantes, relatou o incidente, citando o general Joshua Rudd, chefe da NSA e do Comando Cibernético dos EUA. O relatório foi publicado inicialmente em 14 de junho e posteriormente disseminado nas redes sociais, alegando que a Anthropic havia “hackeado a NSA”. Na realidade, tratava-se de um teste interno autorizado, durante o qual o Mythos foi usado juntamente com outras ferramentas em condições o mais próximas possível do mundo real.

Essa história esclarece uma ordem emitida em 12 de junho pelas autoridades americanas, que ordenou à Anthropic bloquear o acesso aos modelos do Fable 5 e do Mythos 5 para todos os cidadãos não americanos, incluindo seus próprios funcionários, removendo-os, portanto, do acesso público. Os testes haviam sido realizados no dia anterior, 11 de junho; a Anthropic alega que se tratava de um “hack limitado”. O modelo simplesmente analisou a base de código para corrigir os problemas identificados, o que resultou na descoberta de vários erros menores, já conhecidos — não houve nenhuma intrusão ofensiva completa. A Anthropic afirma estar tentando restaurar o acesso ao sistema e trabalhando com funcionários da Casa Branca para desenvolver um sistema colaborativo de gerenciamento de riscos.

O incidente dividiu a opinião pública em três grupos. Aqueles que falam sobre a incapacidade do governo de contratar especialistas em segurança cibernética suficientemente qualificados. Aqueles que acreditam que as alegações da Anthropic são exageradas ou uma estratégia de marketing, citando a falta de detalhes sobre o suposto ataque e questionando a eficácia da invasão.Questiona-se a competência técnica do diretor da NSA. Outros apontam que as capacidades dos modelos de IA aumentaram drasticamente — o tempo de implantação de ataques foi reduzido de horas para minutos, e até mesmo projetos de código aberto estão descobrindo inúmeras vulnerabilidades.

Enquanto isso, a Anthropic continua a colaborar estreitamente com a NSA por meio do Projeto Glasswing. Vários funcionários da empresa trabalham diretamente na agência, adaptando e personalizando o Mythos para tarefas específicas.