Meta começou a rotular erroneamente fotos reais como criações de IA

Vários fotógrafos relataram que as redes sociais Meta✴ rotularam injustamente suas fotos como “Feitas por IA” nos últimos meses. Num caso, tratava-se de fotografias tiradas num jogo de basquetebol, noutro, num torneio de críquete da Premier League indiana. Curiosamente, esses rótulos são mostrados ao visualizar fotos em aplicativos móveis, e não na versão web.

Fonte da imagem: Alexandra_Koch/pixabay.com

O ex-fotógrafo da Casa Branca Pete Souza, que tirou a foto no jogo de basquete, disse que tentou retirar a marca, mas não conseguiu. Na sua opinião, o algoritmo Meta✴ funcionou porque ele pré-cortou a foto no software Adobe e a salvou no formato JPEG. Falsos positivos ocorrem quando os fotógrafos usam ferramentas generativas de IA, como o Adobe Generative Fill, em seu processamento, até mesmo para remover pequenos objetos.

Esta hipótese foi confirmada pelos jornalistas da PetaPixel, que usaram o Generative Fill para remover uma pequena mancha da foto – a marca “Criado por IA” apareceu na verdade no Instagram✴. Resolveram continuar o experimento: abriram essa foto no Photoshop, copiaram e colaram em um documento com fundo preto, depois salvaram e publicaram novamente na rede social – a etiqueta não apareceu.

A Meta✴ “levará em consideração o feedback recente” e reavaliará sua abordagem para garantir que “as marcas reflitam a quantidade de [trabalho] que a IA está fazendo ao criar a imagem”, disse a porta-voz da empresa Kate McLaughlin ao The Verge. “Contamos com os indicadores padrão da indústria que outras empresas adicionam ao conteúdo com as suas ferramentas, por isso trabalhamos ativamente com as empresas para melhorar o nosso processo e garantir que a nossa abordagem à rotulagem seja consistente com a nossa intenção”, acrescentou a Sra. Meta✴ anunciou planos para adicionar tais notas em abril. A Adobe usa seu próprio método de credenciais de conteúdo para marcar conteúdo de IA.