Aplicativos populares de IA aprenderam a se envolver em botnets

\nPesquisadores da empresa americana Intuit, bem como da Universidade Israelense de Tel Aviv e da Universidade Technion desenvolveram um esquema de ataque HalluSquatting em aplicações de inteligência artificial. Ele permite executar códigos arbitrários nos computadores dos usuários e formar botnets a partir de aplicativos de IA.\n\n

\n\nFonte da imagem: Towfiqu barbhuiya / unsplash.com\n\nO ataque foi baseado na tendência dos modelos de IA de alucinar – dando respostas plausíveis, mas obviamente incorretas. O esquema de ataque TypoSquatting já era conhecido. Envolve a criação de recursos maliciosos, cujos endereços diferem ligeiramente dos endereços de sites populares – os invasores esperam que o usuário cometa um erro de digitação.\n\nO esquema HalluSquatting funciona de maneira semelhante – os invasores esperam que o modelo de IA se refira sistematicamente a um recurso ou projeto inexistente, registre-o e faça uma solicitação oculta ao modelo de IA no endereço apropriado, por exemplo, para executar código malicioso sem intervenção do usuário. Como resultado, uma botnet é formada a partir dos computadores afetados – uma rede para realizar ataques DDoS ou implantar servidores proxy shadow.\n\nAo testar esse método de ataque, os pesquisadores recorreram a serviços de assistente de programador como Cursor, Cursor CLI, Windsurf, GitHub Copilot, Cline e Gemini CLI, e aplicativos de agente de IA OpenClaw, ZeroClaw e NanoClaw. Eles conseguiram acesso remoto e manipulação de grandes modelos de linguagem, bem como execução remota de código.\n\nComo defesa contra esses ataques, os pesquisadores propõem o bloqueio do acesso direto aos recursos, para que os aplicativos de IA conectem primeiro as ferramentas de pesquisa padrão, bem como reforcem os esquemas de nomenclatura de projetos e mudem para nomes de recursos globalmente exclusivos. Mas isso, admitem os especialistas, exigirá a cooperação de várias partes e levará algum tempo.\n