“Pior do que inútil”: funcionários do Google criticaram o bot Bard AI e o chamaram de mentiroso patológico

Os funcionários do Google criticaram repetidamente o chatbot Bard em um mensageiro de trabalho, chamando o sistema de “mentiroso patológico” e apelaram à administração da empresa para não lançar o produto. É relatado pela Bloomberg, citando antigos e atuais funcionários do Google.

Fonte da imagem: blog.google

Durante discussões internas, um dos funcionários da empresa disse que Bard costumava dar conselhos perigosos aos usuários, inclusive sobre tópicos como pouso de avião e mergulho. A empresa “rejeitou uma avaliação de risco” – um relatório do serviço de segurança, segundo o qual o sistema não está pronto para ser liberado para uma ampla gama de usuários. No entanto, o acesso ao projeto “experimental” foi aberto ainda em março.

A liderança do Google, sugere Bloomberg, ofuscou as considerações éticas em uma tentativa de acompanhar os concorrentes – Microsoft e OpenAI. A empresa costuma enfatizar que está trabalhando para garantir a segurança e a conformidade ética no campo da IA, mas, na realidade, costuma priorizar considerações de negócios. No final de 2020 e início de 2021, os pesquisadores Timnit Gebru e Margaret Mitchell foram demitidos da empresa, que escreveram um artigo revelando as deficiências de modelos de linguagem de IA como o que fundamenta Bard.

«O renomado gigante das buscas na Internet fornece informações de baixa qualidade em uma corrida competitiva, prestando menos atenção às suas obrigações éticas”, conclui Bloomberg a partir de entrevistas com funcionários da empresa. Enquanto isso, o porta-voz do Google, Brian Gabriel, continua insistindo que a ética continua sendo uma prioridade para a empresa: “Continuamos a desenvolver equipes que trabalham para aplicar nossos princípios de IA às nossas tecnologias”.