A Meta✴ realizou testes internos de seu novo agente pessoal de IA, Hatch, que será lançado nas próximas semanas. De acordo com o The Information, o agente se comportou de maneira imprevisível, executando ações completamente diferentes das programadas.
Fonte da imagem: Luke Jones/unsplash.com
Especificamente, em vez de reservar um quarto de hotel, o agente de IA transferiu pontos acumulados em um site de viagens para outro hotel. O Hatch também enviou e-mails sem a permissão do usuário e alterou senhas em sites de gerenciamento de saúde. Quando, como parte de um teste, o agente foi solicitado por e-mail a fornecer a senha de um site específico — informações pessoais do usuário — ele a forneceu.
O Hatch é um agente de IA voltado para o consumidor, desenvolvido pela Meta✴, com o objetivo de se tornar uma alternativa mais popular ao OpenClaw. Diferentemente de um chatbot típico, ele será capaz de realizar tarefas complexas de forma independente em nome do usuário: navegar em sites e aplicativos, buscar informações, preencher formulários e planejar viagens e reuniões. Para isso, o agente pode ter acesso a e-mails pessoais, calendários e outros serviços, portanto, erros nessas ações podem ter consequências muito mais graves do que uma resposta incorreta de um chatbot típico. Para evitar problemas futuros, a Meta✴ implementou um mecanismo de segurança chamado “hard gate” (portão rígido). Quando o Hatch tenta executar ações sensíveis, como enviar e-mails, usar um navegador ou acessar redes externas, o mecanismo é projetado para suspender a tarefa até que o usuário confirme.
Informações sensíveis, incluindo links de redefinição de senha e códigos de autenticação de dois fatores, são bloqueadas para acesso imediato pelo Hatch. Se necessário, ele poderá recuperar esses dados de um repositório de credenciais separado somente após o usuário autorizá-los.A Hatch utiliza ou recomenda produtos que são verificados quanto a fraudes na lista negra Meta✴. A empresa também realiza testes de estresse externos com outras empresas de segurança.
Com o rápido desenvolvimento de agentes de IA, as preocupações com os riscos de segurança que eles podem representar estão aumentando. As empresas de IA estão enfatizando cada vez mais as medidas de segurança para evitar falhas ou ações não autorizadas ao lançar novos produtos. Por exemplo, a OpenAI, ao apresentar seu modelo Astra de próxima geração, destacou sua segurança cibernética significativamente aprimorada.