A Microsoft se ofereceu para lutar contra deepfakes usando um algoritmo especial

A Microsoft revelou uma nova tecnologia para combater os deepfakes que podem ser usados ​​para espalhar desinformação na Internet, especialmente antes da eleição presidencial dos EUA. Estamos falando de uma ferramenta chamada Microsoft Video Authenticator, que usa um algoritmo especial para determinar a autenticidade de qualquer foto ou vídeo.

O sistema apresentado é capaz de analisar o conteúdo de fotos e vídeos para identificar casos em que os materiais em estudo foram processados ​​usando algoritmos de IA. Deepfakes são imagens ou vídeos que, após o processamento, demonstram algo que não existia na realidade. A tecnologia moderna torna possível criar deepfakes que são muito difíceis de distinguir de vídeos reais a olho nu. Essas falsificações podem ser usadas por cibercriminosos para espalhar informações incorretas, enganar as pessoas e manipular a opinião pública.

O sistema Microsoft Video Authenticator é capaz de “detectar a borda de uma fusão profunda com desbotamento sutil ou pixels cinza” que são extremamente difíceis de ver a olho nu. Simplificando, o algoritmo identifica o limite que separa o vídeo real do rosto humano embutido nele. Além disso, ao processar o vídeo, o sistema pode avaliar a autenticidade de cada quadro individual em tempo real.

É importante notar que a Microsoft não tem intenção de tornar a tecnologia disponível publicamente. Nesta fase, o Video Authenticator estará disponível por meio da iniciativa Reality Defender 2020, uma base para organizações envolvidas no processo democrático, incluindo veículos de notícias e campanhas políticas. Também é importante que o sistema apresentado pela Microsoft possa perder rapidamente sua relevância, uma vez que as tecnologias para a criação de deepfakes estão se desenvolvendo ativamente e melhorando constantemente.

Junto com o Video Authenticator, a Microsoft anunciou um sistema separado através do qual os criadores de conteúdo podem adicionar código oculto às suas filmagens, tornando mais fácil rastrear manipulações posteriores com ele.