A Anthropic afirmou que hackers chineses supostamente usaram o serviço de codificação com inteligência artificial da Anthropic para se infiltrar em 30 sites em todo o mundo.
Fonte da imagem: anthropic.com
“A operação teve como alvo grandes empresas de tecnologia, instituições financeiras, fábricas de produtos químicos e agências governamentais”, afirmou a empresa, garantindo que, na maioria dos casos, os atacantes não obtiveram sucesso. A empresa classificou o incidente como “o primeiro caso documentado de um agente de IA obtendo acesso com sucesso a alvos verificados de alto valor para coleta de informações, incluindo grandes corporações de tecnologia e agências governamentais”.
A Anthropic descobriu a campanha de hackers em larga escala em meados de setembro. Segundo a empresa, ela foi realizada por cibercriminosos chineses que fizeram uso indevido do serviço Claude Code. A Anthropic não especificou como exatamente os atacantes estavam ligados à China, mas afirmou ter “alta confiança” de que estavam agindo sob ordens de Pequim. O serviço Claude Code possui proteções contra uso não autorizado, mas os hackers conseguiram contorná-las dividindo os alvos do ataque em tarefas menores, cada uma aparentemente inofensiva. Os atacantes convenceram a IA de que estavam agindo em nome de um funcionário de segurança cibernética e que o código estava sendo usado para testes de segurança. Como resultado, Claude Code testou vulnerabilidades nos sistemas de TI das vítimas e escreveu código para implantar ataques, coletar nomes de usuário e senhas durante a penetração e, em seguida, orquestrou uma invasão profunda para roubar dados.
Como resultado, eles conseguiram identificar contas com altos privilégios e backdoors, e a participação humana no roubo de dados foi descartada.A IA (Inteligência Artificial) assumiu de 80% a 90% das tarefas. “A eficácia desses ataques provavelmente aumentará”, alertou a Anthropic. A empresa suspendeu as contas do Claude Code envolvidas no incidente, notificou as organizações afetadas e cooperou com as autoridades na coleta de informações. A Anthropic afirmou ter implementado medidas adicionais para identificar e prevenir tais abusos, mas enfatizou que sua tecnologia visa superar os riscos e fortalecer a segurança cibernética, e não facilitar a ação de hackers. Em alguns casos, acrescentou a empresa, o Claude Code forneceu aos atacantes informações imprecisas, resultados inflados e dados falsificados.