Meta mudou sua abordagem para rotular imagens trabalhadas por IA

Meta✴ atualizou sua política para rotular postagens em mídias sociais como “geradas por IA” depois que imagens postadas por alguns usuários começaram a ser rotuladas como tal, quando na verdade eram fotos que haviam passado por alguma edição.

Fonte da imagem: Alexandra_Koch/pixabay.com

Em muitos casos, o conteúdo das redes sociais foi sinalizado como gerado por IA simplesmente porque foi editado no Adobe Photoshop, mas não totalmente gerado por uma rede neural como Stable Diffusion ou DALL-E. Quando você exporta uma imagem do Photoshop, ela inclui metadados, que basicamente funcionam apenas como um aviso de isenção de responsabilidade – algumas ferramentas de edição de imagens são de fato alimentadas por IA generativa, o que significa que a própria imagem pode ser modificada por IA. Depois que os sistemas automatizados do Meta✴ determinaram que o conteúdo era parcialmente “gerado por IA”, o usuário não poderia mais remover esse rótulo. Mas uma imagem totalmente gerada por IA e uma pequena edição em uma foto real não são a mesma coisa, portanto, rotulá-las de “geradas por IA” em ambos os casos provavelmente não ajudará o público.

Meta✴ decidiu separar a edição de IA das imagens totalmente geradas por IA. “Descobrimos que nossa marcação com base nesses indicadores nem sempre atendia às expectativas das pessoas e nem sempre fornecia contexto suficiente. “Substituiremos o rótulo “Criado por IA” por “Informações de IA”, no qual as pessoas podem clicar para obter mais informações”, disse Meta✴.

Preocupada com o benefício dos usuários, a empresa decidiu rotular o conteúdo gerado por IA, mas o sistema implantado baseou-se no padrão de credenciais de conteúdo adotado pela Coalition for Content Provenance and Authenticity (C2PA). Esse padrão envolve simplesmente adicionar metadados a um arquivo (os produtos Adobe os adicionam em qualquer grau de edição assistida por IA) e esses dados podem ser facilmente removidos, por exemplo, fazendo uma captura de tela e colando a imagem em um novo documento. E ainda não existe uma solução universal para identificar materiais criados por IA. Os utilizadores da Internet são aconselhados a estar vigilantes;