O Google disse que suspendeu parcialmente o gerador de imagens em seu chatbot Gemini depois que foi descoberto que ele continha imagens historicamente imprecisas de pessoas relacionadas a questões raciais. Assim, ao tentar retratar os pais fundadores americanos e os soldados da Alemanha nazista, ela parece subverter os estereótipos raciais e de gênero, o que é considerado uma tentativa de falsificar a história.
É assim que Gêmeos imagina os Pais Fundadores Americanos. Fonte da imagem: Google
A empresa decidiu enviar o gerador de imagens Gemini para melhorias menos de 24 horas após receber as primeiras reclamações. Os usuários do chatbot solicitaram à inteligência artificial fotos de grupos ou pessoas históricas e receberam imagens que mostravam principalmente representantes de outras raças além da caucasiana. Isso gerou teorias de conspiração online de que o Google está evitando deliberadamente apresentar pessoas brancas.
Senador dos EUA no século 19, de acordo com Gêmeos. Fonte da imagem: Google
Por exemplo, quando Gemini foi solicitado a criar a imagem de um senador dos EUA do século 19, a IA sugeriu imagens de mulheres negras e nativas americanas. Na verdade, a primeira mulher a se tornar senadora dos EUA só foi em 1922, e ela era branca. Desta forma, o gerador de imagens Gemini apagou a história da discriminação racial e de género.
Atualmente, quando o Gemini é solicitado a gerar a imagem de uma pessoa ou de várias pessoas, ele exibe uma mensagem que diz: “Estamos trabalhando para melhorar nossa capacidade de gerar imagens de pessoas. Esperamos que esse recurso retorne em breve e forneceremos uma atualização de lançamento quando isso acontecer.” O gerador de imagens apareceu no chatbot Gemini (antigo Bard) no início do mês como resposta a produtos similares da OpenAI e Microsoft Copilot – ele cria imagens com base em uma solicitação de texto.