Os órgãos reguladores agiram rapidamente contra o Grok quando a empresa descobriu que estava “despindo” as pessoas até ficarem apenas de roupa íntima.

Grok, um chatbot de IA criado pela startup xAI de Elon Musk, tem enfrentado críticas crescentes de órgãos reguladores em todo o mundo após gerar imagens de conteúdo sexualmente explícito, incluindo imagens envolvendo menores, na plataforma de mídia social X, em resposta a solicitações de usuários.

Fonte da imagem: Mariia Shalabaieva/unsplash.com

Segundo a Bloomberg, as autoridades da Malásia anunciaram no último sábado uma investigação sobre denúncias de uso indevido de inteligência artificial (IA), visto que o Grok manipula imagens de mulheres e menores para criar conteúdo obsceno, extremamente ofensivo ou prejudicial.

De acordo com a Comissão de Comunicações e Multimídia da Malásia (MCMC), criar ou transmitir esse tipo de conteúdo prejudicial é crime segundo a lei malaia. Portanto, o órgão regulador da mídia investigará os usuários do X que supostamente violaram a lei e convocará representantes da empresa para prestar esclarecimentos.

“Embora o X não seja atualmente um provedor de serviços licenciado, ele é obrigado a impedir a disseminação de conteúdo prejudicial em sua plataforma”, afirmou a comissão.

Na sexta-feira anterior, o Ministério da Eletrônica e Tecnologia da Informação da Índia (MeitY) enviou uma carta ao X exigindo uma revisão completa de seu chatbot de IA para garantir que ele não gere conteúdo contendo “nudez, sexualização, conteúdo sexualmente explícito ou outro conteúdo ilegal”.

O X deve apresentar um relatório sobre as medidas tomadas ao ministério em até 72 horas. A empresa também foi alertada sobre a possibilidade de processos judiciais com base nas leis criminais e de tecnologia da informação. O governo indiano declarou que poderá considerar a regulamentação das plataformas de mídia social quanto ao conteúdo inadequado gerado por inteligência artificial. “Uma comissão parlamentar recomendou a adoção de medidas.””Existe uma lei rigorosa que regulamenta as redes sociais”, disse o ministro indiano de TI, Ashwini Vaishnaw, à CNBC-TV 18. “Estamos investigando o caso.”

Também na sexta-feira, o governo francês afirmou que o Grok estava criando conteúdo sexual “claramente ilegal” na plataforma X sem o consentimento dos usuários, potencialmente violando a Lei de Serviços Digitais (DSA) da União Europeia.

Além disso, as imagens ofensivas do chatbot violam claramente sua própria política de uso aceitável, que proíbe a sexualização de crianças. Algumas das imagens criadas pelo chatbot foram removidas.

Uma resposta a um pedido de comentário enviado por e-mail à xAI foi sucinta: “A grande mídia está mentindo.”