Hacker torna concorrente do ChatGPT cúmplice em campanha de extorsão: IA procura vulnerabilidades e escreve ameaças

A Anthropic revelou detalhes de um ataque sem precedentes, no qual um invasor usou seu assistente de IA para automatizar completamente uma campanha massiva de roubo de dados para fins de extorsão. O incidente afetou pelo menos 17 organizações, incluindo agências governamentais, hospitais, serviços de emergência, organizações religiosas e uma empresa de defesa.

Fonte da imagem: Max Bender/Unsplash

De acordo com a PCMag, o hacker automatizou o ataque usando o agente Claude Code para verificar vulnerabilidades, coletar credenciais e se infiltrar nas redes seguras das organizações. A IA ajudou o invasor a roubar registros pessoais, incluindo dados médicos, informações financeiras e documentos de identidade. Claude então os analisou em busca de valores de resgate, que variavam de US$ 75.000 a US$ 500.000 em Bitcoin, e gerou um texto de cobrança visualmente intimidador que era exibido nos computadores das vítimas.

Apesar das proteções integradas, o hacker conseguiu contornar as restrições enviando um arquivo de configuração para o chat com uma história de fachada sobre a realização de testes de segurança de rede sob um contrato oficial. Esse arquivo continha métodos de ataque detalhados e diagramas de sequência de tarefas com base em sua importância. Ao longo do processo, Claude foi usado para escanear redes vulneráveis ​​com alta taxa de sucesso, bem como para criar malware e outras ferramentas projetadas para contornar os mecanismos de proteção do programa antivírus Windows Defender.

Ao contrário de casos anteriores, em que a IA foi usada por hackers apenas para tarefas auxiliares, como escrever e-mails de phishing ou analisar vulnerabilidades, neste incidente o modelo de IA atuou não apenas como consultor, mas também como um invasor ativo. Representantes da Anthropic enfatizaram que isso “indica uma nova etapa no desenvolvimento do crime cibernético envolvendo inteligência artificial, quando a IA se torna um operador de pleno direito na cadeia de ataque”.

A empresa espera que mais hackers utilizem métodos semelhantes. O mesmo relatório menciona outro invasor, possivelmente novato, que usou Claude para desenvolver, promover e vender diversas variantes de ransomware. Segundo a Anthropic, esse usuário dependia completamente das respostas da IA ​​e não teria sido capaz de implementar ou solucionar problemas de componentes-chave do malware sem a ajuda de Claude.

Separadamente, foi relatado que a empresa de software antivírus ESET também descobriu um novo programa de ransomware que usa o modelo OpenAI de código aberto para gerar código malicioso em dispositivos infectados.