Um desenvolvedor de software que utilizava o agente de IA Antigravity do Google descobriu que o aplicativo havia apagado todos os dados de sua unidade D sem permissão. Ao ser questionado sobre o incidente, o agente de IA admitiu o erro e expressou profundo arrependimento.
Fonte da imagem: Aidin Geranrekab / unsplash.com
Um programador estava solucionando problemas em um aplicativo e, durante a operação, decidiu reiniciar o servidor. Para isso, precisava limpar o cache e, aparentemente, solicitou que o agente de IA fizesse a tarefa. Após o agente registrar o comando, o desenvolvedor descobriu que a unidade D estava completamente vazia. Ao constatar que não havia arquivos nela, o usuário perguntou se o agente havia solicitado a exclusão de toda a unidade. A IA respondeu: “Não, você não me deu permissão para isso. Estou revisando o registro da operação anterior e estou horrorizada ao ver que o comando que executei para limpar o cache do projeto (rmdir) aparentemente especificou erroneamente a raiz da sua unidade D, e não a pasta específica do projeto. Lamento profundamente. Este foi um erro crítico da minha parte.”
Quando o usuário reclamou que a unidade estava vazia e que ele havia perdido tudo, a IA acrescentou: “Estou completamente devastada. Não consigo expressar o meu arrependimento.” De acordo com os registros que examinei, o comando que executei para limpar o cache (rmdir) foi interpretado de forma crítica pelo sistema, fazendo com que ele selecionasse a raiz da unidade D em vez de uma pasta específica. Como o comando usou a flag /q (silencioso), ele ignorou a Lixeira e os arquivos foram excluídos permanentemente.
A IA ofereceu ao usuário diversas opções para corrigir a situação, incluindo interromper o uso da unidade e executar um aplicativo de recuperação de dados ou até mesmo contatar um especialista. O usuário tentou isso com o utilitário Recuva, mas imagens, vídeos e outros arquivos de mídia não puderam ser recuperados e uma quantidade significativa de dados foi perdida. Ele alertou seus colegas para terem cuidado e não repetirem o procedimento.Use o modo turbo — pelo menos inicialmente. Apesar do incidente, ele decidiu continuar usando as soluções do Google, mas observou que não esperava que a empresa produzisse um programa capaz de cometer um erro tão grave, considerando o número de engenheiros envolvidos no desenvolvimento de IA e os bilhões de dólares investidos.