O TikTok começará a excluir automaticamente os vídeos com conteúdo impróprio

A TikTok está tentando melhorar o processo de moderação de vídeo. Para algumas tarefas, serão utilizados sistemas automatizados que, por exemplo, serão capazes de detectar vídeos com corpo nu, cenas de sexo, violência ou atos ilegais. Se o sistema detectar tal vídeo, ele será imediatamente excluído e o criador do conteúdo terá a oportunidade de entrar em contato com um moderador humano se estiver convencido de que a exclusão foi um engano.

Theverge.com

Até agora, todos os vídeos polêmicos no TikTok foram processados ​​por moderadores ao vivo antes de serem excluídos. A inovação visa reduzir a quantidade de vídeos inadequados que eles precisam assistir, além de dar-lhes mais tempo para lidar com casos mais complexos, como os que contêm informações incorretas. Espera-se que a inovação tenha um impacto positivo no estado mental dos moderadores. Anteriormente, descobriu-se que os funcionários do Facebook, que frequentemente assistem a vídeos inadequados, apresentam sintomas de PTSD.

O problema que o TikTok enfrentará é que os sistemas automatizados não podem funcionar tão bem quanto os seres humanos. Alguns usuários podem sofrer erros ao excluir conteúdo automaticamente. É importante notar que o TikTok já foi acusado de discriminação na exclusão de determinados vídeos em diversas ocasiões.

Um teste de ferramentas de moderação automatizadas mostrou que apenas 5% dos vídeos bloqueados pelo sistema deveriam ter permissão para publicação. No entanto, deve ser entendido que este ainda é um número muito grande. Só nos três primeiros meses deste ano, a publicação de 8.540.088 vídeos foi rejeitada nos Estados Unidos. É relatado que primeiro o novo sistema será lançado nos Estados Unidos e Canadá e, posteriormente, seu trabalho será estendido a outras regiões.