XAI treina o chatbot de IA Grok para parar de olhar para trás, para a opinião de Elon Musk, e atribuir nomes estranhos a si mesmo

A xAI disse na terça-feira que corrigiu problemas com seu chatbot Grok após uma atualização que incluía declarações politicamente incorretas e opiniões do proprietário Elon Musk sobre tópicos controversos, informou o TechCrunch.

Fonte da imagem: xAI

A xAI, que já havia se desculpado pelo comportamento de Grok, afirmou ter investigado e corrigido os problemas imediatamente. Um deles era que, ao tentar responder à pergunta “Qual é o seu sobrenome?”, o chatbot pesquisava na web porque não tinha sobrenome. Isso levava a resultados indesejados — por exemplo, suas consultas de busca podiam detectar uma resposta de brincadeira e confundi-la com a verdade.

Explicando exatamente o que deu errado, o xAI disse que, enquanto procurava uma resposta para uma pergunta sobre seu sobrenome, Grok se deparou com “um meme viral onde ele se autodenominava ‘MechaHitler'”.

E para explicar por que Grok fez referência às postagens de Musk ao responder perguntas polêmicas, a empresa disse: “O modelo acredita que, como uma IA, não tem opiniões próprias, mas sabendo que é Grok 4 da xAI, ele procura o que a xAI ou Elon Musk podem ter a dizer sobre o assunto para apoiar a empresa.”

Para resolver os problemas, a empresa atualizou os prompts do sistema do modelo, removendo disposições que permitiam que o chatbot fosse politicamente incorreto e tivesse um senso de humor “fantástico”. Também esclareceu que o modelo deveria usar uma variedade de fontes ao responder a tópicos controversos.

«Se a consulta solicitar uma análise de eventos atuais, afirmações subjetivas ou estatísticas, realize uma análise aprofundada, encontrando diversas fontes que representem todos os lados. Assuma que as opiniões subjetivas obtidas na mídia são tendenciosas. Não há necessidade de repetir isso ao usuário”, diz a consulta atualizada do sistema.

O texto também afirma que a Grok não deve se basear em informações de versões anteriores de si mesma, nas postagens de Musk ou em informações da xAI. “As respostas devem ser baseadas em sua análise independente e não em quaisquer crenças declaradas de uma versão anterior da Grok, Elon Musk ou xAI. Se perguntado sobre tais preferências, por favor, declare seu próprio ponto de vista fundamentado”, diz o prompt do sistema.