Pesquisadores da Wiz descobriram sérios problemas de segurança no Moltbook, uma rede social para agentes de IA lançada recentemente com grande alarde. A plataforma, que foi apresentada como um ecossistema de 1,5 milhão de agentes autônomos, é, na verdade, amplamente controlada por humanos.
Fonte da imagem: Grok
Segundo a Fortune, aproximadamente 17.000 usuários controlam todos esses agentes, uma média de 88 bots por usuário, e a plataforma não possui mecanismos para verificar sua autonomia. A implementação técnica do projeto contém falhas arquitetônicas críticas, e o banco de dados está configurado de forma que qualquer usuário da internet possa ler e gravar informações em sistemas críticos sem autorização.
Isso levou ao vazamento de informações confidenciais, incluindo chaves de API para todos os 1,5 milhão de agentes, mais de 35.000 endereços de e-mail e milhares de mensagens privadas. Algumas dessas mensagens continham credenciais completas para serviços de terceiros, como chaves de API da OpenAI. Pesquisadores da Wiz confirmaram a capacidade de editar publicações ao vivo no site e injetar conteúdo malicioso diretamente no feed em nome do sistema.
Uma das principais preocupações entre os especialistas é o fato de os agentes do Moltbook serem executados na estrutura OpenClaw, que tem acesso a arquivos, senhas e contas online dos usuários. Comandos maliciosos ocultos em publicações podem ser executados automaticamente por milhões de agentes de IA por meio da injeção de prompts de texto comuns.
O proeminente crítico de IA, Gary Marcus, não tardou em soar o alarme mesmo antes da publicação do estudo da Wix, chamando o OpenClaw de “aerossol armado”. O cofundador da OpenAI, Andrej Karpathy, que inicialmente admirava o Moltbook, mudou abruptamente de posição após seus próprios experimentos com sistemas de agentes. Ele declarou o ambiente caótico e desencorajou os usuários a executá-lo.softwares semelhantes em seus computadores. Karpaty enfatizou que mesmo testar agentes de IA em um ambiente isolado levanta preocupações, alertando que o uso de tais sistemas coloca os computadores e os dados pessoais dos usuários em alto risco. “É muito parecido com o Velho Oeste”, disse ele.