O Japão se juntou a uma lista crescente de países que iniciaram investigações legais sobre o funcionamento do chatbot de IA Grok, que cria e distribui imagens sexualmente explícitas sem o consentimento dos usuários.
Fonte da imagem: Mariia Shalabaieva/unsplash.com
A ministra da Segurança Econômica do Japão, Kimi Onoda, anunciou na sexta-feira que o Gabinete solicitou à X Corp que aprimore as medidas de segurança para evitar casos de uso semelhantes do chatbot e que limite a distribuição de imagens sexualmente explícitas pelo Grok. Ela afirmou que o governo também enviou questionamentos por escrito sobre as medidas da X para impedir a criação de deepfakes e outras imagens que violem os direitos à privacidade, os direitos de propriedade intelectual e o direito de controlar o uso da própria imagem.
“Planejamos considerar imediatamente todas as opções possíveis, incluindo medidas legais, caso a situação não melhore”, disse Onoda, que também é ministra da Estratégia de IA do Japão.
Atualmente, investigações estão em andamento no Canadá, na Califórnia (EUA), na União Europeia e em alguns Estados-membros, como a França, sobre possíveis violações de direitos humanos pelo Grok na criação de imagens sob demanda, enquanto Malásia, Indonésia e Filipinas restringiram o acesso ao serviço em seus respectivos países.
No início desta semana, a xAI, empresa por trás do Grok, anunciou que desativaria a capacidade do chatbot de criar imagens sexualizadas de pessoas reais. A plataforma X também anunciou mudanças na capacidade da conta do Grok AI de editar imagens de pessoas reais.
Onoda afirmou que o Japão pode exigir que o criador do chatbot tome medidas adicionais, acrescentando que a IA não tem culpa, já que as imagens obscenas são criadas a pedido das pessoas.Que o governo precisa explorar diferentes maneiras de resolver problemas do mundo real. “Se, por exemplo, houver uma faca por perto, você a usaria para cozinhar ou para ferir alguém?”, perguntou ela.
O Japão está tentando encontrar um equilíbrio entre a necessidade de controlar a IA e o desejo de alcançar os EUA e a China em uma área que considera crucial para a estratégia nacional. A Lei de IA do Japão, que entrou em vigor integralmente em setembro passado, não prevê sanções, limitando a intervenção do governo nessa área à realização de investigações e à emissão de instruções oficiais em caso de violações.