O YouTube melhorou a moderação automática de comentários: para insultos, eles primeiro avisam e depois banem por um dia

A administração do YouTube relatou a melhoria dos algoritmos de moderação automática na plataforma: agora eles são mais eficazes para lidar com spam e insultos nos comentários. Hooligans online particularmente ativos recebem avisos e restrições temporárias são introduzidas.

Fonte da imagem: Christian Wiediger / unsplash.com

No primeiro semestre do ano, mais de 1,1 bilhão de comentários de spam foram excluídos do YouTube – os spammers estão constantemente mudando de tática, portanto, a administração da plataforma precisa melhorar constantemente os modelos de aprendizado de máquina, ajudando-os a detectar conteúdo impróprio com mais eficácia. Os algoritmos de IA de proteção funcionam não apenas nos comentários do vídeo, mas também nos chats de transmissão ao vivo – com a próxima atualização, a comunicação durante as transmissões se tornará mais confortável para todos.

Além disso, se o sistema tiver excluído vários comentários ofensivos de um usuário, ele receberá um aviso sobre a inadmissibilidade de violar a política do recurso. Se ele continuar postando conteúdo ofensivo, sua conta será restrita e ele não poderá deixar comentários por 24 horas. De acordo com um estudo realizado pela administração do YouTube, essas medidas reduzem a probabilidade de um usuário deixar mensagens semelhantes novamente. Até agora, os avisos são emitidos apenas no segmento de língua inglesa da plataforma, mas no futuro a função será expandida para outros segmentos.