A rede neural Gemini foi flagrada digitalizando arquivos PDF de usuários do Google Drive

O rápido desenvolvimento das redes neurais há muito tempo levanta preocupações entre os especialistas sobre como garantir a privacidade ao interagir com tais algoritmos. Esta semana houve mais uma confirmação de que estes receios não são em vão. O usuário da rede social X Kevin Bankster chamou a atenção para o fato de que a rede neural Gemini do Google verifica automaticamente os arquivos PDF armazenados no Google Drive sem obter o consentimento explícito do usuário.

Fonte da imagem: Google

«Acabei de abrir minha declaração de imposto de renda no Google Docs e Gemini a resumiu sem permissão. Então… o Gemini verifica automaticamente até mesmo os documentos pessoais que eu abro no Google Docs? Eu não pedi isso. Agora preciso encontrar novas configurações que nunca me foram comunicadas para desativar isso”, escreveu Bankster em sua conta na Network X.

O que exatamente fez com que Gêmeos se comportasse dessa maneira ainda não está claro. De acordo com o próprio algoritmo, as configurações de privacidade usadas para informar o Gemini deveriam estar disponíveis publicamente, mas não é o caso. Isto pode significar que o algoritmo está produzindo informações falsas ou que alguns dos sistemas internos do Google claramente não estão funcionando corretamente. De qualquer forma, isso não parece muito bom, mesmo se assumirmos que a rede neural não utiliza dados pessoais dos usuários para treinamento.

Quanto a Bankster, depois de algum tempo ele escreveu que conseguiu encontrar nas configurações uma opção que, quando ativada, permite ao Gemini digitalizar documentos no Gmail, Google Docs e Google Drive. Ao mesmo tempo, ele observou que a opção estava desabilitada, mas por algum motivo o algoritmo ainda escaneou o documento e criou um texto generalizado baseado nele. Bankster acredita que o problema pode estar relacionado ao fato de ele ter se inscrito no Google Workspace Labs em 2023, o que pode ter feito com que as configurações do Gemini não fossem aplicadas corretamente.