O mecanismo de busca do Google começou a substituir títulos de notícias originais por versões geradas por inteligência artificial. Essa prática já havia sido implementada no feed do Google Discover e agora as mudanças também afetaram os resultados de busca tradicionais. O The Verge descobriu diversos casos em que o Google substituiu títulos originais por versões próprias, às vezes distorcendo seu significado.
Um exemplo citado é o caso em que o título de um artigo sobre o teste de uma “ferramenta de IA para trapacear em tudo que não atendeu às expectativas de um estudante” foi encurtado pelo algoritmo para uma frase que soava como o nome do produto: “ferramenta de IA para trapacear em tudo”. Isso poderia ter dado ao leitor a falsa impressão de que a publicação estava recomendando a ferramenta, embora esse não fosse o título original.
Os representantes do Google, Jennifer Kutz, Mallory De Leon e Ned Adriance, afirmaram que o fenômeno observado é um experimento “pequeno” que ainda não foi aprovado para lançamento completo. Eles se recusaram a especificar o escopo do teste, mas observaram que as mudanças se aplicam não apenas a fontes de notícias, mas também a outros sites. Kutz explicou que o objetivo é identificar conteúdo que possa gerar uma manchete útil que corresponda à consulta do usuário.
Apesar dessas garantias, existe a preocupação de que o experimento se torne um recurso permanente, segundo o The Verge. Por exemplo, o Google havia declarado anteriormente que as manchetes geradas por IA no Discover eram um teste, mas depois as aprovou como um recurso “para melhorar o engajamento do usuário”. No entanto, a empresa não explicou por que estava descontinuando suas diretrizes para manchetes.que ela mesma recomendou às publicações.
Tradicionalmente, a busca do Google fazia apenas pequenas edições nos títulos, como encurtar o texto. A situação atual é diferente, pois o algoritmo cria textos do zero, apesar de as publicações investirem tempo e esforço consideráveis para criar manchetes honestas e envolventes, sem clickbait. Jornalistas compararam isso a uma livraria que arranca as capas dos livros e muda os títulos.
Vale ressaltar que, por enquanto, manchetes alteradas são raras e não contêm erros tão gritantes quanto os do feed do Google Discover, que anteriormente reportou especificações incorretas para o console PlayStation Portal ou o fim da proibição de drones nos EUA. No entanto, as publicações temem que o teste atual seja um prenúncio de mudanças mais sérias.