A gigante tecnológica chinesa Bytedance, proprietária da plataforma Tiktok, demonstrou hoje o novo sistema de inteligência artificial omnihuman-1, que pode criar vídeos falsos praticamente indistinguíveis da realidade. A capacidade da inteligência artificial de gerar DeepFake-Video causa prazer e horror místico.
Fonte da imagem: techspot.com
O vídeo criado por Omnihuman-1 parece incrivelmente realista. Basta examinar o vídeo abaixo, demonstrando o desempenho do orador na popular conferência anual sobre a disseminação de idéias únicas TED (tecnologia, entretenimento, design – tecnologia, entretenimento, design), que não era na realidade.
O sistema omnihuman-1 é suficiente para uma foto e gravação de voz para gerar esse vídeo. O usuário pode configurar elementos como a proporção das partes e do pessoal. Além disso, a IA é capaz de alterar os movimentos do corpo e gestos em materiais de vídeo reais. Obviamente, os resultados nem sempre são 100 % perfeitos. Algumas poses parecem um pouco incomuns. Por exemplo, nesta palestra de Einstein, IA completamente gerada, o rosto parece quase perfeito, mas os movimentos das mãos não são naturais.
Omnihuman-1 “assistiu” 18.700 horas de dados de vídeo usando a nova abordagem “Omni-Conditions”, que permite que o modelo estude em várias fontes de entrada, como dicas de texto, áudio e corpo poses ao mesmo tempo. Os pesquisadores de bytedance dizem que esse método de ensino ajuda a IA “reduzir significativamente a perda de dados”.
A possível aplicação da tecnologia DeepFake causa uma preocupação séria. Recentemente, ele foi usado mais de uma vez para desinformação, fraude e outros objetivos malsucedidos. Assim, durante a campanha eleitoral de 2024 nos Estados Unidos, foram registrados muitos casos de distribuição de gravações de áudio e vídeo com Dipfaces para eleitores enganosos.
No ano passado, a fraude financeira privou as pessoas de bilhões. Por exemplo, um fraudador que usou a IA, para se passar pelo ator Brad Pitt, conseguiu enganar a mulher para se divorciar do marido e enviar -lhe US $ 850.000 supostamente para tratamento.
Atualmente, centenas de especialistas em ética defendem a regulamentação de Dipfaces. É possível que a bytedance não seja acessada por omnihuman-1 ao público em geral, pois isso pode levar a consequências catastróficas. Embora o Genie já tenha sido liberado da garrafa e do processo de introdução de IA em todas as esferas da vida, incluindo criminoso, não param mais.