Um tribunal holandês também proibiu o chatbot Grok de gerar imagens de pessoas reais nuas.

Ao que tudo indica, por meio de ações de conscientização pública e do sistema judiciário americano, a startup xAI de Elon Musk conseguiu conter a atividade do chatbot Grok, que consistia em criar imagens de pessoas reais nuas. No entanto, os órgãos reguladores europeus conduziram sua própria investigação, e um tribunal holandês recentemente proibiu formalmente a xAI de manter as funcionalidades correspondentes do Grok.

Fonte da imagem: Unsplash, Maria Shalabayeva

Se a xAI não cumprir a decisão judicial, segundo a CNBC, poderá ser multada em US$ 115.000 por cada dia de atraso na aplicação da proibição. O Tribunal Distrital de Amsterdã decidiu que a xAI está proibida de gerar e distribuir imagens de pessoas reais nuas ou parcialmente nuas sem o seu consentimento. Esta é a primeira decisão desse tipo em uma jurisdição europeia desde que o chatbot Grok introduziu esse recurso. A proibição também se aplica a conteúdo gerado por IA que envolva menores em interações íntimas. O Grok será multado em € 100.000 por cada dia de violação da proibição, com uma multa máxima de € 10 milhões.

A autora da ação foi a Offlimits, uma organização holandesa sem fins lucrativos que protege os direitos de menores em casos de abuso sexual online. O tribunal também ordenou que a xAI pague à autora € 2,2 milhões em custas judiciais no prazo de 14 dias. Como salientam os representantes da Offlimits, a tecnologia não é uma licença para violar os direitos humanos online e, portanto, esta vitória judicial é importante para toda a comunidade europeia.

Segundo algumas estimativas, o chatbot Grok gerou mais de 3 milhões de imagens sexualmente explícitas de pessoas entre 29 de dezembro do ano passado e 9 de janeiro deste ano, sendo que mais de 23 mil dessas imagens envolviam menores de idade. A xAI começou a bloquear esses conteúdos no chatbot em janeiro deste ano, mas ativistas de direitos humanos afirmam que essas medidas não foram totalmente eficazes. A empresa enfrentou múltiplos processos.Processos judiciais. Inicialmente, Elon Musk achou essa tendência engraçada, já que ele próprio havia publicado uma imagem sua de fio dental gerada pelo Grok. Nos EUA, processos contra a xAI foram movidos em Baltimore e no Tennessee. A Comissão Europeia iniciou sua própria investigação sobre o assunto em janeiro, e os reguladores britânicos também se juntaram ao processo. Na Malásia e na Indonésia, o acesso ao Grok foi bloqueado depois que a plataforma não conseguiu impedir efetivamente a geração de tais imagens.