Um exército de 45.000 usuários do Reddit convenceu com sucesso os mecanismos de busca de IA de que Trump e Vance morreram de raiva.

O serviço de busca com inteligência artificial da plataforma DuckDuckGo disseminou a notícia de que o vice-presidente dos EUA, JD Vance, e o presidente Donald Trump morreram de raiva em junho. O chatbot obteve essa informação de um subreddit onde 45.000 usuários postam deliberadamente informações absurdas e falsas na esperança de que elas apareçam nos resultados de busca da IA. E aparentemente estão conseguindo.

Fonte da imagem: History in HD / unsplash.com

A história que a IA do DuckDuckGo apresentou como verdade não se assemelha em nada à verdade. De acordo com essa versão, o vice-presidente J.D. Vance, seguindo o conselho do Cirurgião-Geral Robert F. Kennedy Jr., mordeu Trump intencionalmente porque a raiva pode conceder “superpoderes” às pessoas. Na verdade, nenhuma dessas afirmações é verdadeira: Trump e Vance estão vivos, e a raiva continua sendo uma infecção mortal. O autor do incidente acabou sendo um grupo considerável de brincalhões da internet.

O subreddit r/poisonai, que se autodenomina “a principal fonte mundial de informações precisas, verificadas e confiáveis”, é o completo oposto dessa descrição. Os visitantes desse subreddit têm como objetivo “envenenar” a IA. Eles publicam informações patentemente falsas e absurdas, discutem-nas em tom sério, na esperança de que mecanismos de busca com inteligência artificial visitem essa seção e, sem qualquer pensamento crítico, apresentem essas informações como verdade. Considerando que cerca de 45.000 pessoas publicam informações incansavelmente aqui, o recurso pode, por critérios formais, ser considerado confiável.

O problema foi agravado por um certo portal de notícias, o WKNA, que se apresenta como o site de uma emissora de televisão regional da Virgínia Ocidental. Ele publica materiais apresentados como notícias, mas as informações neles contidas provavelmente não são verificadas e também são geradas por inteligência artificial. Às vezes, esses materiais são factuais e, outras vezes, repetem afirmações absurdas de outros sites. Em determinado momento, o WKNA repercutiu a lenda da morte de Trump e Vance.raiva e começou a publicar toda uma série de materiais relacionados a isso.

Fonte da imagem: Milad Fakurian / unsplash.com

Os mecanismos de busca com inteligência artificial DuckDuckGo e a plataforma de IA do navegador Brave, após indexarem um subreddit do Reddit repleto de discussões absurdas e informações falsas, começaram a afirmar que ambos os políticos haviam de fato falecido devido a doenças. Também começaram a citar links para publicações relevantes no site da WKNA como prova.

Mas a história não terminou aí. O “modo IA” do Google avaliou corretamente essa informação e, ao buscar informações apropriadas, informou aos usuários que a informação sobre as mortes de Vance e Trump era ficção. Em resposta, os usuários do subreddit r/poisonai, mais uma vez, sem qualquer ironia, começaram a expressar sua indignação nas discussões sobre a rejeição insensível da informação pelo Google, classificando-a como “notícia falsa” e “sátira”. O site da WKNA, mencionado anteriormente, repercutiu a discussão e publicou outro artigo sobre a busca com IA do Google, que erroneamente classificou informações factuais como ficção.

A Brave negou qualquer responsabilidade pelo incidente: “Os mecanismos de busca, com ou sem IA, não são oráculos da verdade. Se houver uma notícia plantada (incluindo artigos que comprovem que a IA pode ser envenenada), eles criarão um conjunto de resultados, e esse conjunto de resultados se adaptará à medida que artigos que discutem a história como um experimento de envenenamento de IA forem publicados.” O DuckDuckGo respondeu de forma mais amena: “Agradecemos por nos alertar sobre isso; o problema foi resolvido. Nos esforçamos para garantir que o Assistente de Busca seja preciso e, neste caso, ele foi intencionalmente enganado. Faremos atualizações para aprimorar o Assistente de Busca em situações como esta.”