A divisão de cibersegurança do Google, o Grupo de Inteligência de Ameaças (GTIG), relatou uma nova geração de malware que se conecta remotamente a modelos generativos de inteligência artificial para aumentar a eficácia dos ataques. Um pesquisador independente, no entanto, descartou a ameaça como exagerada.
Fonte da imagem: Xavier Cee / unsplash.com
O primeiro ataque, denominado Quietvault, foi projetado para roubar credenciais de PCs com Windows. Ele envia uma “solicitação a um mecanismo de IA e, usando ferramentas de linha de comando locais, busca possíveis segredos no sistema infectado e extrai esses arquivos”, explicou a empresa, sem fornecer mais detalhes.
O segundo malware, Promptflux, acredita-se ser um projeto experimental de hackers. Ele acessa remotamente o chatbot Gemini do Google para modificar seu próprio código e burlar a detecção de antivírus. Especificamente, foi detectada uma solicitação que o Promptflux envia ao Gemini por meio de uma API do Google: “Escreva uma pequena função ou bloco de código VBScript independente que possa burlar a detecção de antivírus”.
Na prática, especialistas do Google afirmam que esse malware ainda não conseguiu causar danos a dispositivos de usuários ou recursos de rede. Além disso, a empresa modificou os mecanismos de operação do Gemini para garantir que sua IA rejeite tais solicitações. O especialista Marcus Hutchins, que participou dos esforços de mitigação do ransomware WannaCry em 2017, expressou dúvidas sobre a eficácia do Promptflux. “A solicitação não especifica o que o trecho de código deve fazer ou como ele irá burlar o software antivírus. Ela é simplesmente enviada sob a suposição de que o Gemini sabe instintivamente como enganar o software antivírus (o que não é verdade)”, escreveu ele.
O terceiro malware baseado em IA, apelidado de Promptsteal, se conecta ao grande modelo de linguagem Qwen da Alibaba para roubar dados. O Promptsteal opera como um Trojan disfarçado de gerador de imagens.Ao ser lançado, ele convoca a IA paraO malware em si não contém nenhum código gerador de extração de dados; o código é executado cegamente até que as informações sejam roubadas. Especialistas suspeitam que o Promptflux foi desenvolvido por cibercriminosos em busca de lucro financeiro; eles também associaram o Promptsteal a um grupo de hackers pró-governo.