Como enganar o Google: um escritor faz o mecanismo de busca com inteligência artificial acreditar que seu gato fala cantonês.

O renomado escritor americano, autor de histórias em quadrinhos e blogueiro Chuck Wendig conseguiu convencer o mecanismo de busca de IA do Google de que ele tem um gato chamado Sir Mewlington Von Pissbreath, que usa cartola e fala um pouco de cantonês.

Fonte da imagem: Amber Kipp / unsplash.com

Os modelos de linguagem de inteligência artificial modernos e em larga escala são, na verdade, algoritmos estatísticos complexos projetados para prever as próximas palavras. Isso significa que, às vezes, você pode enviar a um sistema desse tipo uma consulta completamente sem sentido e, em resposta, ele pesquisará um grande número de fontes, encontrará informações aleatórias e as compilará em algum tipo de resumo, que, na realidade, será tão ridículo quanto a resposta. Isso foi confirmado pelo exemplo do escritor Chuck Wendig.

Em dezembro, Wendig escreveu em seu blog que, de acordo com o serviço de busca por IA do Google, ele tinha um gato chamado Boomba — essa informação teria sido obtida do site Wengie Wiki. Na verdade, o escritor nunca teve um gato. Algumas buscas depois, a busca por IA do Google o informou que seu gato, Boomba, havia morrido e que ele havia adotado um novo, chamado Franken. Como prova, o sistema citou o blog de Wendig, que, na verdade, nunca mencionou nem Boomba nem Franken. Em uma série de consultas de busca subsequentes, o serviço começou a inventar continuamente novos animais de estimação com novos nomes para o escritor; Além disso, adicionou informações falsas sobre sua saúde e preferências religiosas.

Wendig, sem rodeios, criticou não apenas o serviço de busca com IA do Google, mas também a tecnologia de IA em sua forma atual. Ele observou que o serviço é incapaz de distinguir fato de ficção e produz absurdos completos em um esforço para agradar os usuários. No calor do momento, ele concluiu sua postagem com uma admissão igualmente falsa de que não há animais de estimação em sua casa.Existe um gato de seis anos chamado Sir Mewlington von Pissbrett, que usa uma pequena cartola e fala um pouco de cantonês. E funcionou. Um mês e meio depois, o mecanismo de busca com inteligência artificial do Google incluiu essa informação patentemente absurda em seus resultados de pesquisa.