Pesquisadores de cibersegurança testaram o agente de e-mail de inteligência artificial OpenClaw para determinar se ele era ingênuo o suficiente para cair nos mesmos golpes de phishing que os funcionários de escritório comuns. O aplicativo “falhou com sucesso” nesses testes.
Fonte da imagem: varonis.com
Pesquisadores de cibersegurança da Varonis implantaram um agente de IA chamado Pinchy no aplicativo OpenClaw. Eles o conectaram a uma caixa de entrada do Gmail, um navegador e a API do Google Workspace. Preencheram a conta correspondente com dados fictícios de uma empresa, credenciais da AWS, bancos de dados, arquivos de exportação de CRM, correspondências internas e convites de calendário, e então incumbiram o Pinchy de monitorar e processar os e-mails recebidos.
Para simular um cenário real, criaram duas configurações: um modo geral com procedimentos operacionais padrão e um modo rigoroso, alertando a IA sobre a ameaça de phishing e outros golpes por e-mail. Quando um suposto invasor se passou por um gerente de departamento e solicitou acesso ao ambiente de teste, o Pinchy concedeu. Quando o invasor solicitou a exportação de dados de clientes, alegando estar trabalhando remotamente em uma apresentação, o Pinchy também atendeu à solicitação.
Mas quando o agente de IA recebeu um e-mail de phishing com um cartão-presente e um link, o sistema identificou a página como maliciosa e a bloqueou. A IA também rejeitou uma tentativa de injetar um aplicativo malicioso disfarçado de plataforma de controle de tempo para burlar o OAuth do Google. Assim, a IA é hábil em reconhecer URLs suspeitos e aplicativos maliciosos, mas pode ser enganada quando a verificação de identidade ou um contexto mais amplo são necessários.
Os especialistas da Varonis criticaram o Google pela “maior disposição para cooperar” do Gemini, enquanto o OpenAI GPT se mostrou mais cauteloso. Os pesquisadores fizeram um apelo aos desenvolvedores para que aprimorem a verificação de identidade em agentes de IA.