Odnoklassniki começou a combater comentários agressivos com a ajuda da IA

A rede social Odnoklassniki lançou um algoritmo baseado em inteligência artificial destinado a combater a agressão e o discurso de ódio em comentários públicos na plataforma. A rede neural analisa comentários de texto e imagens incorporadas.

Fonte da imagem: OK

De acordo com um comunicado de imprensa da Odnoklassniki, a inovação ajudará a criar um ambiente de respeito na rede social e proporcionará condições de comunicação confortável para todos os membros da comunidade. Ao detectar conteúdo tóxico nos comentários, o algoritmo envia uma notificação aos moderadores, que verificam e tomam a decisão final. Se a informação for confirmada, o usuário agressivo é bloqueado temporariamente e, na próxima vez que tentar deixar um comentário, receberá uma mensagem com uma explicação e um link para uma página onde está descrito o novo algoritmo. A inovação já foi lançada na versão desktop do Odnoklassniki e, em um futuro próximo, será lançada em aplicativos clientes para iOS e Android.

Ao analisar comentários de texto, o algoritmo é acionado por manifestações de xenofobia e ódio a quaisquer grupos sociais, incluindo o uso de palavrões, além de ameaças contra outros membros da comunidade. O sistema também analisa imagens embutidas, reagindo a conteúdos chocantes e violência – se o sinal da rede neural for confirmado, o usuário é bloqueado temporariamente. As sanções do Odnoklassniki agora também podem ser alcançadas recebendo muitas reclamações de outros usuários e se o algoritmo caracterizar comentários problemáticos como tóxicos e agressivos.

A nova tecnologia baseada em inteligência artificial é o próximo passo no programa para construir um ambiente de comunicação confortável em Odnoklassniki — em fevereiro, a plataforma lançou o Message Security Center.