A Grokipedia tornou-se editável – e o caos se instaurou (3DNews).

A Grokipedia, empresa de inteligência artificial (IA) de Elon Musk, entrou na fase de edição aberta, mas sua implementação atual levanta sérias questões sobre confiabilidade, transparência e resistência à manipulação. Lançada inicialmente em outubro com 800 mil artigos escritos pelo chatbot Grok, a plataforma foi fechada para edições externas e criticada por viés, incluindo linguagem racista, bajulação a Musk e cópia literal de material da Wikipédia.

Fonte da imagem: grokipedia.com

Com a atualização para a Grokipedia 0.2, qualquer usuário agora pode editar informações. Basta selecionar um trecho de texto, clicar no botão “Sugerir edição” e inserir uma sugestão de edição com as respectivas fontes. No entanto, a decisão final sobre a alteração é tomada pela assistente de IA, conhecida por seus vieses e imprecisões, como observa o The Verge.

Ao contrário da Wikipédia, onde a edição é acompanhada por registros detalhados, um sistema de notificações, diretrizes de formatação e uma comunidade de moderadores, a Grokipedia não oferece diretrizes editoriais nem uma interface amigável para o acompanhamento das edições. O sistema exibe apenas o número total de edições aprovadas (22.319 no momento da publicação), ocultando as edições específicas realizadas, em quais páginas e por quem.

O registro de aprovações só pode ser acessado por meio de uma janela pop-up inconveniente, sem funções de classificação ou busca. Além disso, a IA apresenta inconsistências. Por exemplo, em um artigo sobre a família de Musk, os editores sugeriram que a identidade de gênero de sua filha fosse refletida corretamente, mas o Grok fez alterações de forma fragmentada, resultando em uma mistura de textos antigos e novos.

O chatbot também responde de maneira diferente a solicitações semelhantes e, dependendo da redação, pode rejeitar ou aceitar a mesma edição. A vulnerabilidade da Grokipedia a tópicos sensíveis é particularmente alarmante. Especificamente, os registros revelaram sugestões rejeitadas, mas repetidas persistentemente, para distorcer informações sobre o Holocausto ou apresentar Hitler unicamente como um artista.