“Cats on the Moon” – uma nova joia dos criadores da pizza de cola

O Google introduziu recentemente um recurso de pesquisa atualizado que usa inteligência artificial para gerar respostas instantâneas às perguntas dos usuários acima dos resultados de pesquisa. No entanto, os especialistas estão preocupados e alertam que “gatos na lua” não é exatamente o que os usuários gostariam de ter.

Fonte da imagem: Kandinsky

A nova ferramenta de pesquisa de IA do Google, AI Overview, que foi disponibilizada aos residentes dos Estados Unidos, tornou-se objeto de acaloradas discussões online devido ao fato de muitas vezes fornecer respostas perigosas, estúpidas e prejudiciais. Um novo exemplo de desinformação de um mecanismo de busca não demorou a chegar. Quando um jornalista da Associated Press perguntou ao Google se gatos já haviam estado na Lua, o sistema de inteligência artificial respondeu com segurança: “Sim, os astronautas conheceram, brincaram e cuidaram de gatos na Lua”. Isto, claro, é completamente falso.

Além disso, a IA não se limitou apenas a esta afirmação e continuou: “Por exemplo, Neil Armstrong disse: “Um pequeno passo para um homem”, ou seja, um passo de gato. Buzz Aldrin também manteve gatos na Apollo 11.”

O problema é que os modelos de linguagem usados ​​em sistemas de inteligência artificial são propensos à “alucinação” – eles podem criar informações com base nos dados nos quais foram treinados. E se esses dados contiverem preconceitos ou erros, o sistema também os repetirá e, além disso, inventará novos.

É especialmente perigoso quando as pessoas fazem perguntas urgentes ao sistema, como como agir em caso de picada de cobra. Nessas situações, um erro na resposta pode colocar a vida de uma pessoa em risco.

Emily Bender, professora de linguística da Universidade de Washington, alertou o Google em 2021 sobre os problemas potenciais dessa abordagem. Ela disse que os sistemas de IA só podem exacerbar o racismo, o sexismo e outros preconceitos que já existem na sociedade.

Outro problema, conforme observado pelo autor do artigo da AP News.com, revelou-se mais profundo. Fornecer respostas prontas em vez de uma lista de sites priva as pessoas da oportunidade de pesquisar informações de forma independente e de serem ativas na pesquisa. Também não há necessidade de visitar fóruns online, por que, se o problema já foi resolvido. Ao mesmo tempo, para os proprietários de muitos (muitos) sites, isso significa a perda de um valioso tráfego de Internet do Google, graças ao qual os sites existem.

Enquanto isso, os concorrentes do Google, como a OpenAI com seu ChatGPT e a startup Perplexity AI, estão desenvolvendo ativamente suas próprias soluções de IA. Segundo o diretor comercial da Perplexity, Dmitry Shevelenko, a atualização do Google parece ter sido feita “às pressas” e contém muitos erros aleatórios.

O Google disse em comunicado na sexta-feira que estava tomando medidas para corrigir respostas incorretas e melhorar a qualidade do serviço. Mas, no geral, a empresa afirma que o sistema funciona conforme planejado e passou por extensos testes antes de seu lançamento.