Pesquisadores de cibersegurança testaram o agente de e-mail de inteligência artificial OpenClaw para determinar se ele era ingênuo o suficiente para cair nos mesmos golpes de phishing que os funcionários de escritório comuns. O aplicativo “falhou com sucesso” nesses testes.
Fonte da imagem: varonis.com
Pesquisadores de cibersegurança da Varonis implantaram um agente de IA chamado Pinchy no aplicativo OpenClaw. Eles o conectaram a uma caixa de entrada do Gmail, um navegador e a API do Google Workspace. Preencheram a conta correspondente com dados fictícios de uma empresa, credenciais da AWS, bancos de dados, arquivos de exportação de CRM, correspondências internas e convites de calendário, e então incumbiram o Pinchy de monitorar e processar os e-mails recebidos.
Para simular um cenário real, criaram duas configurações: um modo geral com procedimentos operacionais padrão e um modo rigoroso, alertando a IA sobre a ameaça de phishing e outros golpes por e-mail. Quando um suposto invasor se passou por um gerente de departamento e solicitou acesso ao ambiente de teste, o Pinchy concedeu. Quando o invasor solicitou a exportação de dados de clientes, alegando estar trabalhando remotamente em uma apresentação, o Pinchy também atendeu à solicitação.
Mas quando o agente de IA recebeu um e-mail de phishing com um cartão-presente e um link, o sistema identificou a página como maliciosa e a bloqueou. A IA também rejeitou uma tentativa de injetar um aplicativo malicioso disfarçado de plataforma de controle de tempo para burlar o OAuth do Google. Assim, a IA é hábil em reconhecer URLs suspeitos e aplicativos maliciosos, mas pode ser enganada quando a verificação de identidade ou um contexto mais amplo são necessários.
Os especialistas da Varonis criticaram o Google pela “maior disposição para cooperar” do Gemini, enquanto o OpenAI GPT se mostrou mais cauteloso. Os pesquisadores fizeram um apelo aos desenvolvedores para que aprimorem a verificação de identidade em agentes de IA.
Ontem, a Anthropologie publicou um plano de ação com o objetivo de mitigar as grandes…
O Google está em negociações com a Samsung Electronics para a fabricação de componentes para…
Encontrar novos modelos de negócios em meio ao rápido desenvolvimento da inteligência artificial e da…
A Huawei se juntou à crescente lista de marcas obrigadas a aumentar os preços de…
Segundo dados de especialistas, o consumo de energia dos data centers pode aumentar 26% este…
Os desenvolvedores do estúdio russo 1C Game Studios (Caliber, Immortal: Tales of Old Rus') anunciaram…