As autoridades americanas decidiram recentemente que o modelo de IA avançado e de código aberto Anthropic Fable 5 não estava suficientemente protegido contra agentes maliciosos e, portanto, o acesso a estrangeiros deveria ser negado. A Anthropic optou pela cautela e proibiu todos os usuários de utilizarem o modelo. Acontece que o CEO da Amazon também expressou preocupação a esse respeito.
Fonte da imagem: Anthropic
Segundo o The Wall Street Journal, o CEO da Amazon, Andy Jassy, informou autoridades do governo dos EUA que os pesquisadores da empresa encontraram uma maneira de contornar as restrições da Anthropic para verificar a capacidade do modelo de IA do Fable 5 de realizar ciberataques. Após uma reunião sobre o assunto, as autoridades decidiram que a solução mais confiável seria bloquear o acesso ao Fable 5 para agências governamentais, empresas e indivíduos estrangeiros. Essa decisão foi reforçada no mais alto nível, aprovada pelo presidente dos EUA, Donald Trump.
Na sexta-feira, autoridades americanas e o CEO da Anthropic, Dario Amodei, conversaram por telefone. A empresa foi obrigada a cumprir as restrições propostas pelas autoridades americanas, mas expressou sua discordância com a decisão. De fato, a Anthropic extrapolou suas atribuições ao bloquear o acesso de todos os usuários não apenas ao Fable 5, mas também ao Mythos, uma ferramenta de análise de cibersegurança mais avançada. Tecnicamente, a Anthropic perdeu a capacidade de desenvolver seus modelos de IA, pois muitos de seus especialistas são estrangeiros.
Representantes da Amazon afirmaram que o governo dos EUA consulta frequentemente a empresa sobre segurança da informação. Quando esse compartilhamento de dados ocorre, a Amazon não divulga o conteúdo. A Anthropic enfatizou que as vulnerabilidades identificadas pelos especialistas da Amazon poderiam ser detectadas por outros modelos de IA disponíveis publicamente e que eles não fornecem um mecanismo completo para burlar a segurança.A empresa acredita que as medidas de segurança existentes são suficientes para impedir a exploração por parte de atacantes.Essas vulnerabilidades. Enquanto a Anthropic se prepara para seu IPO no outono, tais obstáculos ao desenvolvimento de seus modelos de IA claramente não beneficiarão a empresa. A startup está em conflito com o Pentágono desde a primavera deste ano, mas a iniciativa de ontem para bloquear o acesso aos modelos da Anthropic não partiu do Pentágono, explicam fontes.
A pesquisa da Amazon revelou que consultas específicas ao Fable 5 permitem que esse modelo encontre vulnerabilidades em pelo menos quatro produtos de software. Especialistas terceirizados acreditam que as vulnerabilidades identificadas não representam uma ameaça específica do ponto de vista da segurança cibernética. Embora vulnerabilidades de software semelhantes possam ser identificadas usando outros modelos, as soluções da Anthropic permitem especificamente a geração de código malicioso que explora essas vulnerabilidades para realizar ações maliciosas. Não há evidências de que os pesquisadores da Amazon tenham explorado esse cenário com sucesso. O modelo Mythos, mais poderoso da Anthropic, foi distribuído com extrema cautela, mas isso acabou não protegendo a empresa de novas acusações das autoridades americanas.