As exigências do governo dos EUA para que a Anthropic desbloqueie modelos de IA são praticamente impossíveis de implementar.

Faz exatamente uma semana que a Anthropic, a pedido das autoridades americanas, bloqueou o acesso de todos os usuários aos modelos de IA Mythos 5 e Fable 5 por motivos de segurança nacional. A Anthropic não conseguiu restringir o acesso apenas a estrangeiros, então todos os usuários foram afetados. Especialistas dizem que será praticamente impossível reverter a situação.

Fonte da imagem: Anthropic

Como explica a Wired, citando fontes familiarizadas com as negociações, as autoridades americanas exigem que a Anthropic encerre permanentemente as brechas que permitiriam aos usuários interagir com os modelos de IA mais avançados da startup. Especificamente, os desenvolvedores bloqueiam a possibilidade de buscar informações sobre armas de destruição em massa nas versões públicas dos modelos, mas especialistas da NSA supostamente comprovaram que uma combinação específica de consultas aos modelos de IA da Anthropic permite contornar essas restrições no caso do Fable 5, que foi concebido como uma versão pública e segura do Mythos 5.

Agora, as autoridades americanas acreditam que a Anthropic deve fechar essas brechas antes que seus modelos avançados de IA possam retornar ao domínio público. Elas também acreditam que a empresa deve implementar proteções semelhantes para todos os seus modelos e realizar testes de resistência a ataques, fornecendo relatórios regulares ao governo americano. Especialistas em segurança cibernética concordam que quaisquer restrições impostas pela Anthropic nessa situação serão eficazes apenas por um período limitado, já que ferramentas mais sofisticadas para burlar as medidas de bloqueio existentes surgirão com o tempo. Eliminar esses abusos de uma vez por todas é simplesmente impossível, mas as autoridades americanas exigem que a Anthropic faça exatamente isso. Se as autoridades americanas não reconsiderarem sua posição, os modelos de IA da startup poderão permanecer proibidos por muito tempo.