Dados que estavam disponíveis publicamente online, mesmo que momentaneamente, podem permanecer em posse de chatbots online de IA generativa, como o Microsoft Copilot, por muito tempo após o acesso a eles ter sido removido, de acordo com uma pesquisa da empresa israelense de segurança cibernética Lasso, especializada em ameaças emergentes de IA generativa.
Fonte da imagem: Windows/unsplash.com
O problema afeta milhares de repositórios GitHub que antes eram públicos, de diversas grandes empresas, incluindo a Microsoft, que já foram fechados, disse Lasso ao TechCrunch.
De acordo com o cofundador da Lasso, Ofir Dror, a empresa descobriu que o conteúdo de seu próprio repositório GitHub apareceu no Copilot porque foi indexado e armazenado em cache pelo mecanismo de busca Bing da Microsoft. Este repositório foi aberto por engano por um curto período de tempo e agora é privado. Ao tentar acessá-lo no GitHub, aparece a mensagem “Página não encontrada”.
«No Copilot, curiosamente, encontramos um de nossos próprios repositórios fechados, disse Dror. — Se eu estivesse navegando na web, não veria esses dados. Mas qualquer um pode obtê-los fazendo a pergunta certa ao Copilot.”
Em resposta, a Lasso conduziu uma investigação na qual extraiu uma lista de repositórios que estavam acessíveis publicamente em algum momento em 2024 e identificou aqueles que foram removidos ou tornados privados. Usando o mecanismo de cache do Bing, a empresa descobriu que mais de 20.000 repositórios privados do GitHub de mais de 16.000 organizações ainda estavam acessíveis pelo Copilot. Isso se aplica em particular à Amazon Web Services, Google, IBM, PayPal, Tencent e Microsoft.
Dror disse que Lasso contatou todas as empresas que foram “seriamente afetadas” pela violação de dados e as aconselhou a rotacionar ou revogar quaisquer chaves comprometidas.
A Lasso notificou a Microsoft sobre suas descobertas em novembro de 2024, mas a gigante do software disse que considerava o problema de “baixa gravidade”, dizendo que o comportamento de cache era “aceitável”. A Microsoft observou que não incluirá mais links de cache do Bing nos resultados de pesquisa a partir de dezembro de 2024.
No entanto, Lasso alega que, embora o recurso de cache estivesse desabilitado, o Copilot ainda tinha acesso aos dados, mesmo que eles não estivessem refletidos nos resultados de pesquisa na web.