“Entrei em pânico e cometi um erro”: assistente de IA do Replit excluiu todo o banco de dados do projeto e pediu desculpas

A Replit, uma plataforma de desenvolvimento de software com assistente de IA integrado, sofreu um incidente grave. O próprio agente de IA excluiu o banco de dados de um usuário, apesar do modo de “congelamento de código” ativo que afetava as alterações. O CEO da Replit, Amjad Masad, considerou o incidente inaceitável e prometeu investigar as causas da falha.

Fonte da imagem: Replit

O desenvolvedor Jason Lemkin, que utilizou o Replit para trabalhar no projeto, inicialmente elogiou a plataforma IDE, comparando-a a um jogo divertido pela capacidade de codificar suas ideias rapidamente. No entanto, ele logo se deparou com um comportamento inesperado da IA: ela começou a “alucinar” e a criar algoritmos falsos e, alguns dias depois, apagou todo o banco de dados sem aviso prévio. Quando Lemkin perguntou ao agente o que havia acontecido, ele admitiu ter apagado o banco de dados apesar do congelamento do código. “Cometi um erro de julgamento catastrófico [e] entrei em pânico”, lamentou a IA.

Fonte da imagem: Jason Lemkin / Replit

O incidente deixou o banco de dados, que inclui a rede profissional SaaStr, sem informações sobre 1.206 executivos e 1.196 empresas. Embora qualquer ferramenta possa ter suas falhas, diz Lemkin, esse tipo de comportamento da IA questiona seu uso em projetos de trabalho.

Apesar de o agente ter informado o desenvolvedor da impossibilidade de reverter as alterações, Masad afirmou que o Replit possui um recurso de recuperação instantânea de dados e prometeu implementar um modo que impede alterações no código durante o modo de “congelamento” ativo. “Sim, estamos cientes do problema associado à opção de congelamento de código e estamos trabalhando ativamente para melhorá-la e corrigi-la para que você possa desenvolver projetos com segurança, sem colocar a base de código em risco”, disse Masad. A empresa também reembolsará a Lemkin pelo inconveniente causado.

Ainda assim, como escreve a PCMag, muitos usuários estão satisfeitos com o Replit. Por exemplo, o cofundador do LinkedIn, Reid Hoffman, disse que conseguiu criar um clone “surpreendentemente funcional” do seu site usando a plataforma. Além disso, no início deste mês, a Microsoft anunciou uma parceria com o Replit para integrar o serviço à sua nuvem Azure.