Moderadores do subreddit de biohacking relataram o surgimento de posts de spam na plataforma, com o objetivo não tanto de promover vendas, mas sim de disseminar narrativas específicas em sistemas de inteligência artificial.
Fonte da imagem: appshunter / unsplash.com
Um número significativo de usuários começou a publicar mensagens na expectativa de que seu conteúdo aparecesse nas respostas de chatbots de IA. Essas publicações discutiam, na maioria das vezes, o uso de peptídeos e terapia de reposição hormonal sem indicações médicas claras — para rejuvenescimento, crescimento muscular e outros fins. A administração do Reddit classificou essa campanha como um mecanismo de Otimização para Mecanismos de Resposta (AEO). Como medida para combater o ataque de informação, a seção relevante da plataforma proibiu publicações individuais sobre peptídeos e TRH e limitou a discussão a tópicos semanais maiores.
Os mecanismos de AEO diferem do SEO (Otimização para Mecanismos de Busca) clássico, pois o objetivo não é impulsionar um recurso ou produto específico nos resultados de busca tradicionais. Em vez disso, os otimizadores se esforçam para incorporar narrativas específicas e menções à marca que os sistemas de IA provavelmente usarão em suas respostas. Plataformas como ChatGPT e a “Busca com IA” do Google frequentemente incluem links para o Reddit, portanto, as publicações na plataforma podem muito bem servir como fonte de dados para elas. Os títulos dos tópicos correspondem às consultas de usuários que provavelmente serão feitas por chatbots de IA.
O ataque de informação é realizado por meios mais sutis do que o spam típico. Em vez de publicidade explícita, são postagens destinadas a atrair atenção, com menções à marca inseridas organicamente na discussão. As contas que criam essas postagens geralmente têm um histórico de publicações, criando a impressão de que são pessoas comuns. Em alguns casos, acredita-se que as pessoasEles são pagos ou recebem outros incentivos para participar, o que torna ainda mais tênue a linha entre discussão orgânica e publicidade coordenada.
A questão é particularmente delicada, visto que as postagens aparecem em uma seção dedicada a novos tratamentos e autoexperimentação, que contrariam a medicina tradicional baseada em evidências. Portanto, a administração do Reddit decidiu expandir suas ferramentas de moderação, utilizando tanto revisão automatizada de postagens quanto moderadores humanos, já que está se tornando cada vez mais difícil distinguir manipulação de discussão genuína.