O gerador de adesivos de IA foi ao ar no Instagram e no Facebook, e os usuários imediatamente o forçaram a criar obscenidades.

Instagram✴ e Facebook✴ Messenger agora têm a capacidade de gerar adesivos com base em consultas de texto usando IA. Alguns usuários que têm acesso à nova ferramenta Meta✴ da empresa já começaram a experimentá-la, resultando em uma variedade de criações divertidas, mas questionáveis.

Fonte da imagem: twitter.com/Pioldes

O usuário da rede social X, com o apelido de Pioldes, cujo gerador de adesivos AI apareceu no aplicativo Facebook✴ Messenger, tentou combinar o incompatível, e suas criações acabaram sendo às vezes obscenas: trata-se do encanador armado Luigi, irmão do mesmo Mario ; crianças-soldados; Mickey Mouse no banheiro; encarnações extremamente duvidosas do primeiro-ministro canadense Justin Trudeau, Karl Marx e Sonic the Hedgehog; e até uma mulher que amamenta o Pokémon Pikachu.

Meta✴ introduziu um gerador de adesivos alimentado por IA na semana passada. As imagens são criadas pelo grande modelo de linguagem Llama 2 – que, como disse o desenvolvedor, permite produzir dezenas de adesivos de alta qualidade em questão de segundos. A ferramenta estará disponível em mensagens privadas e Stories no Facebook✴ e Instagram✴, além do Facebook✴ Messenger e WhatsApp. Por enquanto, apenas um público limitado que fala inglês pode usá-lo.

A empresa não especificou o círculo de usuários que tiveram acesso ao gerador de adesivos. Mas já conseguimos constatar que algumas palavras nas descrições estão bloqueadas: ao tentar inseri-las no campo de descrição do adesivo, é exibido um aviso de que este vocabulário viola as regras da comunidade Meta✴. Descobriu-se também que conteúdo impróprio pode ser gerado usando palavras proibidas com erros ortográficos ou substituindo-as por descrições.

Esse tipo de falha é típico no lançamento de ferramentas de IA, razão pela qual a Meta✴ aparentemente decidiu limitar o acesso ao gerador de adesivos no estágio inicial. Depois de depurar esses erros, a empresa poderá lançar uma versão disponível publicamente.