O Reino Unido reprime o X: a rede social mudou sua política devido a deepfakes de conteúdo sexual provenientes do Grok.

O primeiro-ministro britânico, Keir Starmer, afirmou que a plataforma de mídia social X está “tomando medidas para garantir total conformidade com a legislação do Reino Unido” em relação aos deepfakes de conteúdo sexual explícito criados por seu bot de inteligência artificial, Grok. A plataforma foi obrigada a alterar sua política após duras críticas de Starmer e uma investigação da Autoridade de Comunicações do Reino Unido.

Fonte da imagem: xAI

Anteriormente, Starmer exigiu que a plataforma de mídia social X “controlasse” o fluxo de fotos geradas por IA de mulheres e crianças parcialmente vestidas na plataforma, classificando o conteúdo como “vergonhoso” e “repugnante” e ameaçando tomar medidas severas contra a plataforma. “Isso é ilegal. Não vamos tolerar. Solicitei que todas as opções sejam consideradas. É repugnante. A X precisa se recompor e remover esse material. Tomaremos medidas porque isso é simplesmente inaceitável”, acrescentou.

Imagens criadas usando o Grok e amplamente compartilhadas na plataforma X provocaram forte reação negativa. Mulheres cujas imagens foram alteradas digitalmente usando a ferramenta disseram que isso era “degradante” e “desumanizante”.

Em 12 de janeiro, o Escritório de Comunicações do Reino Unido (Ofcom) iniciou uma investigação formal para determinar se deepfakes sexualmente explícitos criados na plataforma de mídia social X usando o chatbot de IA Grok violam a lei do Reino Unido.

Um porta-voz do X afirmou anteriormente que a plataforma toma medidas contra conteúdo ilegal, incluindo material de abuso sexual infantil, removendo-o, bloqueando permanentemente contas e cooperando com as autoridades locais e agências de aplicação da lei, conforme necessário.

Hoje, Starmer informou à Câmara dos Comuns que recebeu informações sobre as medidas que o X está tomando para garantir o pleno cumprimento da lei do Reino Unido. “Se for esse o caso, então é bem-vindo, mas não vamos recuar e eles devem agir. Tomaremos as medidas necessárias. Fortaleceremos as leis existentes e…””Vamos elaborar legislação se for necessário ir mais longe, e a Ofcom continuará sua investigação independente”, disse ele.