O aplicativo do Google Photo começará a usar marcas d’água digitais sintididas para fotografias editadas usando inteligência artificial generativa (AI). De acordo com o Google, a nova função foi projetada para facilitar a identificação de imagens que foram alteradas usando a ferramenta de reimagina no editor de magia.
Fonte da imagem: Google
O Magic Editor permite editar fotos facilmente através de consultas de texto adicionando ou excluindo vários detalhes. Embora as próprias ferramentas não representem uma ameaça, o editor mágico pode criar compilações ilegais, por exemplo, helicópteros quebrados, cenas de acidentes e sem marcas óbvias indicando que a imagem foi alterada.
Os sinais de água foram projetados para resolver esse problema. No entanto, o Synthid visualmente não altera a imagem e, para entender que foi editado pela IA, você precisará usar adicionalmente a função de verificar “na imagem”. Além disso, o Google admite que algumas pequenas alterações feitas através do editor mágico podem ser tão insignificantes que o Synthid não será capaz de identificar essas alterações e aplicar a marcação.
Os especialistas observam que, embora as marcas d’água possam ajudar a identificar compilações, essa tecnologia não é suficiente para uma verificação em grande escala do conteúdo criado pelas neuralidades. Para confiabilidade, você precisará usar toda uma gama de abordagens e software.
Observe que o sistema de marcas d’água é usado na rede neural do Google Imagen AI, que gera imagens baseadas em texto. Ferramentas semelhantes foram desenvolvidas por outras empresas, por exemplo, a função Adobe Content Credenciais protege do acesso não autorizado aos metadados e permite que os autores adicionem informações sobre si mesmas.
A tecnologia Synthid foi projetada pelo comando DeepMind e é um metag digital, embutido em imagens, vídeo, áudio ou texto. Esta tag permite identificar se os arquivos foram criados ou alterados usando a IA.