O modelo Mythos AI da Anthropic, que usa inteligência artificial para detectar vulnerabilidades de software, foi inicialmente lançado com acesso limitado devido a preocupações com a segurança. Agora, surgiram informações sobre o primeiro incidente de acesso não autorizado à versão de pré-visualização do Claude Mythos por usuários terceirizados.
Fonte da imagem: Anthropic
No entanto, como explica o Financial Times, citando comentários de representantes da Anthropic, os indivíduos que obtiveram acesso à versão prévia do Cloud Mythos não foram escolhidos aleatoriamente, pois estavam ligados a contratados que trabalham para a própria Anthropic. Informações sobre um incidente como esse, por si só, só aumentarão as preocupações dos órgãos reguladores em muitas partes do mundo. Em particular, as autoridades da Austrália, Coreia do Sul e Japão já estão preocupadas com o fato de o Mythos, nas mãos de invasores, poder representar uma ameaça aos sistemas bancários nacionais.
A Anthropic ainda não possui evidências de que a atividade dos usuários que acessaram o Mythos por meio de um contratado tenha se espalhado para além de seu ambiente controlado. Não foi especificado quais parceiros da Anthropic estiveram envolvidos neste incidente. Acredita-se que aproximadamente 40 organizações obtiveram acesso ao Mythos, mas a Anthropic divulgou publicamente apenas algumas delas, incluindo Amazon, Microsoft, Apple, Cisco e CrowdStrike. Essas empresas receberam prioridade no uso do modelo de IA do Mythos antes de sua entrada no mercado com uso mais amplo. Especialistas em cibersegurança alertaram que o Mythos permitia que invasores explorassem vulnerabilidades de software mais rapidamente do que os desenvolvedores conseguiam corrigi-las.
Em março, a descrição do modelo de IA vazou publicamente por meio de um cache de dados, levando a Anthropic a reforçar drasticamente suas medidas de segurança internas em um esforço para evitar violações mais graves. No entanto, isso não impediu o vazamento, em abril, do código Claude, um software destinado ao uso interno.