Apesar do rápido crescimento da popularidade dos chatbots baseados em redes neurais, como o ChatGPT da OpenAI ou o Bard do Google, nesta fase tais algoritmos apresentam muitas desvantagens, incluindo aquelas relacionadas com a privacidade. Esta afirmação é comprovada pelo aparecimento nos resultados de pesquisa do Google de links para bate-papos de usuários com o bot de IA da empresa.
Fonte da imagem: blog.google
O pesquisador Gagan Ghotra foi um dos primeiros a notar que links para bate-papos de usuários com o bot Bard apareciam no mecanismo de busca Google. Ao clicar em um desses links, você pode visualizar o histórico de comunicação entre um determinado usuário e o algoritmo de IA. Embora os dados dos próprios utilizadores não sejam indicados nas conversas, as mensagens podem conter algumas informações confidenciais, sobre as quais o investigador se apressou em alertar os utilizadores através da publicação de uma mensagem correspondente na rede social X.
Peter Liu, pesquisador da DeepMind AI, do Google, tentou amenizar a situação dizendo que os resultados da pesquisa incluíam links para chats de usuários que usaram a função “Compartilhar”, que pode ser usada para mostrar os resultados de uma conversa com um bot para alguém para outro. No entanto, esta explicação não satisfez os utilizadores e foi criticada. Muitos sentiram que mesmo com a função Compartilhar, as pessoas queriam compartilhar os resultados de suas conversas sobre o Bardo com alguém específico, em vez de disponibilizá-los publicamente na Internet.
Para agravar o problema, os bate-papos de indexação de bots de IA são diferentes de como o recurso Compartilhar funciona em outros produtos da empresa, como Google Docs ou Google Drive. Além disso, ao usar produtos empresariais do Google, você verá um aviso informando que o compartilhamento de conteúdo com pessoas fora do domínio da sua organização pode ser perigoso. Porém, no caso do Bard, não há notificação de que os resultados da comunicação com o bot serão indexados e disponibilizados publicamente.
Em última análise, o Google parece ter reconhecido o problema e está atualmente trabalhando em uma solução. “Bard permite que as pessoas compartilhem bate-papos se desejarem. Também não planejamos que esses chats sejam indexados pelo Google. No momento, estamos trabalhando para bloquear a indexação deles”, disse Danny Sullivan, representante de relações públicas do Google.