Após um aumento repentino de conteúdo com nudez, o Grok desativou a geração de imagens para a maioria dos usuários.

Após uma enxurrada de críticas, ameaças de multas e possíveis proibições por parte de órgãos reguladores de todo o mundo devido ao uso do chatbot de IA Grok para gerar imagens sexualmente explícitas e violentas, a startup xAI de Elon Musk desativou seu recurso de geração de imagens sob demanda para a maioria dos usuários, informou o The Guardian.

Fonte da imagem: Mariia Shalabaieva/unsplash.com

De acordo com a investigação do The Guardian, o Grok foi usado para criar vídeos pornográficos com mulheres sem o consentimento delas, além de gerar imagens de mulheres retratando violência e assassinato.

A conta do Grok nas redes sociais, X, afirma que “a criação e edição de imagens está atualmente restrita a assinantes pagos”. Isso significa que a situação está sob controle, já que os assinantes pagos fornecem à startup suas informações pessoais e de cartão de crédito, e podem ser identificados caso o recurso de geração de imagens seja usado indevidamente.

O primeiro-ministro britânico, Keir Starmer, exigiu que o X “regulasse” a enxurrada de fotos geradas por IA de mulheres e crianças seminuas na plataforma, classificando o conteúdo como “vergonhoso” e “nojento” e ameaçando tomar medidas drásticas contra a plataforma.

Starmer afirmou ter obtido o apoio da Ofcom, órgão regulador de telecomunicações do Reino Unido, para tomar medidas contra isso. “Isso é ilegal. Não vamos tolerar. Pedi que considerassem todas as opções. Isso é repugnante. A X precisa se recompor e remover esse material. Tomaremos medidas porque isso é simplesmente inaceitável”, acrescentou.

O jornal The Guardian observou que Musk tem recebido repetidos apelos públicos para remover ou restringir a função de geração de imagens do Grok, mas até agora não tomou nenhuma providência.