O Google mostrou diretamente no vídeo publicitário como a IA dá maus conselhos

Na conferência I/O 2024, o Google enfatizou que a rede neural Gemini que desenvolveu se tornaria uma nova palavra em pesquisa e assistentes de IA. No entanto, uma das demonstrações mais marcantes das capacidades deste sistema foi novamente prejudicada por uma falha inerente a todos os grandes modelos modernos de linguagem – alucinações, isto é, dar uma resposta deliberadamente incorreta.

Fonte da imagem: youtube.com/@Google

No vídeo “Search in the Age of Gemini”, o Google demonstrou a pesquisa de vídeo, um recurso de pesquisa de informações baseado em vídeo. Como exemplo, a empresa citou um vídeo com uma alavanca de rebobinamento de filme presa em uma câmera e a questão de por que essa alavanca não se move totalmente. Gêmeos reconheceu o vídeo, entendeu o pedido e deu algumas sugestões de correção. E pelo menos um deles estava incorreto.

A IA recomendou “abrir a tampa traseira e remover o filme com cuidado”. E esta é talvez a pior coisa que você pode fazer nesta situação. Porque se você abrir a tampa traseira de uma câmera de filme que não esteja em uma sala completamente escura, o filme acenderá e todas as fotos tiradas ficarão inutilizáveis. Mas no vídeo esta resposta é destacada como a mais adequada.

Esta não é a primeira vez que o Google publica material publicitário com um erro factual – informações deliberadamente incorretas fornecidas pela IA. No ano passado, o chatbot Bard relatou que a primeira imagem de um exoplaneta – um planeta fora do nosso sistema solar – foi obtida pelo Telescópio Espacial James Webb (JWST), embora este não tenha sido o caso.