Deepfake pode ser reconhecido pelo reflexo incorreto nos olhos das pessoas

Pesquisadores da Universidade de Buffalo desenvolveram uma ferramenta para detecção quase livre de erros de deepfakes em imagens digitais de pessoas. O novo algoritmo está errado apenas seis vezes em cem. Isso pode ajudar a combater informações falsas, mas o algoritmo tem uma série de limitações.

A análise do reflexo nos olhos mostrou que todas essas pessoas não são reais. Fonte da imagem: University at Buffalo

Um algoritmo proposto pelos pesquisadores investiga os reflexos nos olhos das pessoas em fotografias digitais. Em imagens reais, os reflexos nos olhos geralmente são os mesmos, enquanto as redes neurais no processo de criação de um deepfake operam em muitas imagens digitais de pessoas de um banco de dados extenso, o que leva à síntese de diferentes reflexos em uma e na outra córnea de O olho.

Em particular, a análise da base de dados de imagens de pessoas falsas gerada pela rede neural StyleGAN2 mostrou que o algoritmo é capaz de detectar uma falsificação profunda em 94% dos casos de imagens de retratos de pessoas tiradas com boa iluminação e com resolução suficientemente alta. Ao mesmo tempo, a precisão caía rapidamente se a resolução fosse reduzida ou a iluminação fosse insuficiente para formar um reflexo da córnea.

Também deve ser reconhecido que sob certas condições de iluminação, os reflexos nos olhos podem diferir, assim como este algoritmo não pode ser aplicado para casos em que o segundo olho não está visível ou está na sombra. No entanto, qualquer progresso no caminho de expor deepfakes é bem-vindo. Com o tempo, a disseminação de informações audiovisuais digitais falsificadas promete ser um problema sério.