Milhares de conversas privadas do Grok vazaram para a pesquisa do Google

Milhares de conversas de usuários com o chatbot xAI de Elon Musk, Grok, foram disponibilizadas por meio de mecanismos de busca, relata o TechCrunch, citando a Forbes. Cada vez que um usuário do Grok clica no botão “Compartilhar” em uma conversa com o chatbot, uma URL exclusiva é criada, que pode ser compartilhada por e-mail, mensagem de texto ou redes sociais.

Fonte da imagem: Mariia Shalabaieva/Unsplash

Essas URLs contendo conversas privadas podem ser indexadas pelo Google, Bing e DuckDuckGo e aparecer nos resultados de busca na web. O recurso que permite a geração de URLs públicas também afetou recentemente usuários de chatbots da Meta✴ e OpenAI e, no caso da Grok, também levou ao vazamento de conversas com conteúdo inseguro — incluindo solicitações para hackear carteiras de criptomoedas, conversas íntimas com personagens de IA personalizados e solicitações de instruções sobre como sintetizar drogas ilegais.

Embora os termos de serviço do xAI proíbam explicitamente o uso do bot para incentivar ações que “prejudiquem gravemente a vida humana” ou para desenvolver “armas biológicas, químicas ou de destruição em massa”, isso não impediu os usuários de enviar solicitações correspondentes ao Grok.

De acordo com uma análise das conversas, que foram disponibilizadas publicamente pelo Google, o bot forneceu instruções passo a passo sobre como fabricar drogas ilegais, listou métodos para cometer suicídio, deu conselhos sobre como criar dispositivos explosivos e até formulou um plano detalhado para matar o próprio Musk.

Representantes da xAI ainda não responderam a um pedido de comentário e também não especificaram quando os links para diálogos com Grok começaram a ser indexados pelos mecanismos de busca.