A Wikipedia está repleta de crenças e falsificações geradas por IA

A Wikipedia está passando por uma crise devido ao fato de os usuários terem começado a publicar informações sem sentido ou não verificadas geradas por inteligência artificial usando chatbots como ChatGPT e similares. No entanto, dada a crescente popularidade das tecnologias de IA, isto era de esperar.

Fonte da imagem: BoliviaInteligente/Unsplash

Segundo o TechSpot, para solucionar o problema foi criado um projeto chamado WikiProject AI Cleanup, que é um grupo de voluntários que busca, edita e remove informações falsas supostamente adicionadas por meio de IA generativa.

Ilyas Lebleu, um dos fundadores da equipe de limpeza, disse que o problema veio à tona quando os editores e usuários da Wikipedia notaram seções de artigos que foram claramente escritas por um chatbot. As suspeitas foram confirmadas quando alguns desses textos foram recriados usando ChatGPT.

«Percebemos um estilo de escrita incomum que claramente não foi escrito por um ser humano e conseguimos reproduzir essas frases usando o ChatGPT”, disse LeBleu. — Tendo descoberto frases e frases características, identificamos os exemplos mais flagrantes de artigos gerados. Depois disso, decidiu-se organizar um projeto de busca de texto de IA.”

Um exemplo é um artigo sobre uma suposta fortaleza otomana chamada Amberlisihar, construída em 1400. O texto, com cerca de 2.000 palavras, descrevia detalhadamente a localização e construção desta instalação. No entanto, a fortaleza não existe de facto e todas as informações sobre ela eram completamente fictícias, mas pareciam convincentes graças à inclusão de factos reais. No entanto, o problema não diz respeito apenas aos novos artigos na Wikipédia. Usuários inescrupulosos inserem dados falsos em artigos existentes. Num caso, uma seção dedicada a uma espécie de caranguejo foi adicionada a um artigo sobre um besouro, com links corretos para as fontes.

LeBleu e seus colegas admitem que não entendem completamente por que as pessoas fazem isso. No entanto, as razões são óbvias. Em primeiro lugar, este é um problema do próprio sistema da Wikipédia, que permite a qualquer pessoa tornar-se editor. A propósito, esta é a razão pela qual muitas universidades proíbem os estudantes de usar a Wikipédia como principal fonte de informação.

Em segundo lugar, não é segredo que a Internet se torna frequentemente objecto de abusos, especialmente agora que surgiu a inteligência artificial. Um exemplo é o infame bot da Microsoft chamado Tay, que foi desativado menos de 24 horas após o lançamento por postar tweets ofensivos e racistas no X. A IA também está sendo usada para criar deepfakes e livros no Amazon Kindle.