Hoje, o Gabinete de Comunicações do Reino Unido (Ofcom) iniciou uma investigação para determinar se as deepfakes de conteúdo sexual explícito criadas na plataforma de redes sociais X pelo chatbot Grok AI violam a lei britânica. Na semana passada, o primeiro-ministro Keir Starmer classificou as imagens criadas pelo Grok como “abomináveis” e “ilegais”.
Fonte da imagem: unsplash.com
“Houve relatos de que a conta do chatbot Grok AI na plataforma X está sendo usada para criar e distribuir imagens de nudez — que podem constituir abuso de imagens íntimas ou pornografia — e imagens de conteúdo sexual infantil, que podem constituir material de abuso sexual infantil”, afirmou a Ofcom em um comunicado.
Questionado sobre a possibilidade de banir a plataforma X no Reino Unido, o Secretário de Negócios, Peter Kyle, respondeu: “Sim, claro”, esclarecendo que tais ações estão dentro da jurisdição da Ofcom. Outras autoridades britânicas acolhem bem a investigação formal da Ofcom e esperam que ela seja concluída rapidamente.
Criar ou distribuir imagens íntimas ou material de abuso sexual infantil sem o consentimento do usuário, incluindo imagens sexuais geradas por IA, é ilegal no Reino Unido. Além disso, as plataformas tecnológicas devem impedir que usuários do Reino Unido acessem conteúdo ilegal e removê-lo assim que tomarem conhecimento dele.
Em comunicado oficial, a Ofcom afirmou que, nos casos mais graves de descumprimento da legislação britânica, o Escritório de Comunicações pode recorrer ao tribunal para obrigar “provedores de pagamento ou anunciantes a retirarem seus serviços da plataforma” ou para obrigar provedores de internet a bloquearem o acesso ao serviço.
Um representante da rede social X declarou anteriormente que a plataforma toma medidas contra conteúdo ilegal, incluindo materiais com cenas de abuso sexual infantil.A remoção, o bloqueio permanente da conta e a cooperação com as autoridades locais e policiais, conforme necessário, serão punidos.
“Qualquer pessoa que use o Grok ou o incentive a criar conteúdo ilegal enfrentará as mesmas consequências que quem publica conteúdo ilegal”, afirmou a empresa em comunicado. Além disso, o Grok declarou que solicitações de imagens de nudez estão disponíveis apenas para usuários pagos.
O Grok também foi alvo de críticas em outros países por seu potencial para gerar conteúdo sexualmente explícito. Autoridades francesas recorreram a promotores e órgãos reguladores, classificando o conteúdo como “manifestamente ilegal”, enquanto autoridades indianas exigiram uma explicação oficial da administração da empresa.