Um cibercriminoso desconhecido, utilizando o chatbot de IA Anthropic Claude, realizou um ataque em larga escala contra recursos pertencentes a órgãos do governo mexicano. Como resultado, roubou 150 GB de informações, incluindo registros fiscais, credenciais de funcionários e muito mais.
Fonte da imagem: anthropic.com
O chatbot Claude auxiliou o atacante na busca por vulnerabilidades em redes governamentais e na escrita de código para explorá-las. O hacker também instruiu o serviço a encontrar maneiras de automatizar o roubo de dados, disseram especialistas da Gambit Security. A campanha em larga escala começou em dezembro e durou cerca de um mês. Inicialmente, a IA se recusou a realizar tais operações, mas acabou concordando quando o cibercriminoso insistiu. Claude compilou milhares de instruções detalhadas para o usuário malicioso, com planos prontos para execução, instruções precisas sobre quais alvos atacar e quais credenciais usar.
A Anthropic investigou o incidente, interrompeu a atividade do atacante e bloqueou todas as contas associadas ao incidente, informou a empresa, acrescentando que o novo modelo principal Claude Opus 4.6 está protegido contra esse tipo de abuso. O hacker também tentou conectar o ChatGPT à operação para coletar informações sobre movimentações na rede de computadores, as contas necessárias para acessar recursos e como evitar a detecção. No entanto, de acordo com a OpenAI, empresa responsável pelo serviço, o chatbot se recusou a atender a essas solicitações. O atacante não pôde ser identificado. As autoridades federais mexicanas se recusaram a reconhecer o incidente, mas garantiram que a segurança cibernética continua sendo uma prioridade; as autoridades do estado de Jalisco declararam que apenas recursos federais foram invadidos. Especialistas da Gambit, no entanto, descobriram pelo menos 20 vulnerabilidades em sistemas mexicanos que as autoridades provavelmente optaram por não divulgar. A Anthropic já havia relatado o envolvimento de hackers chineses.Claude foi usado para invadir recursos ao redor do mundo.