O Google Fotos começará a marcar imagens editadas com IA

O Google anunciou que a partir da próxima semana o Google Fotos começará a notificar os usuários se uma imagem foi alterada ou combinada com outra imagem usando inteligência artificial. O objetivo desta mudança é garantir a máxima transparência no uso de ferramentas generativas de IA e a integridade dos dados.

Fonte da imagem: Chris Welch/The Verge

De acordo com o diretor de engenharia do Google Fotos, John Fisher, “imagens editadas usando ferramentas como Magic Editor, Magic Eraser e Zoom Enhance já contêm metadados baseados nos padrões técnicos do International Press Telecommunications Council (IPTC)”, indicando o uso de IA generativa.” Porém, agora as informações também aparecerão no Google Fotos – ao lado do nome do arquivo, localização e status do backup. O novo recurso “AI info” estará disponível tanto na versão web quanto no aplicativo móvel.

O sistema de marcação irá além da IA ​​generativa para casos em que elementos de várias fotos são combinados em uma única imagem, como ao usar os recursos Best Take e Add Me em smartphones Pixel. Ao mesmo tempo, como escreve The Verge, esses metadados podem ser facilmente contornados por aqueles que desejam ocultar deliberadamente vestígios de edição.

Fisher enfatiza: “Este é um trabalho em andamento e continuaremos coletando feedback e avaliando soluções adicionais para melhorar a transparência na edição de IA”. Anteriormente, os metadados associados às ferramentas de IA do Google eram praticamente invisíveis para os usuários. Por exemplo, a ferramenta Magic Editor permite adicionar objetos gerados por IA a uma imagem que não estava na cena real, o que pode enganar outros usuários.

Embora o Google e a Samsung forneçam recursos de edição de IA, a Apple decidiu não incluir conteúdo fotorrealista em suas ferramentas de geração de imagens (que serão introduzidas no iOS 18.2). Craig Federighi, da Apple, expressou preocupação de que a IA pudesse afetar a autenticidade das fotos. Em geral, o retoque de fotos não é uma prática nova, mas as modernas ferramentas generativas de IA tornam a criação de falsificações convincentes muito fácil e acessível.