O Facebook usará IA para moderar rapidamente o conteúdo

A rede social Facebook usará um novo algoritmo de aprendizado de máquina para moderar o conteúdo postado pelos usuários. A primeira tarefa do algoritmo será encontrar as publicações mais traumáticas para sua posterior remoção.

Fonte da imagem: Business Insider

Hoje, o conteúdo que viola as regras das mídias sociais (spam, incitação ao ódio, propaganda de violência, etc.) geralmente é marcado pelos próprios usuários ou por algoritmos de aprendizado de máquina. O sistema trata os casos mais óbvios de forma automática, por exemplo, removendo postagens que violam as regras da plataforma ou bloqueando a conta do usuário que publicou este conteúdo. O restante dos casos vai para a fila para uma verificação mais detalhada pelos moderadores.

Existem hoje cerca de 15 mil moderadores trabalhando no Facebook em todo o mundo. A rede social tem sido repetidamente criticada pelo fato de que a administração da plataforma não os apóia o suficiente e não contrata mais funcionários. A tarefa dos moderadores é ordenar as postagens com reclamações, bem como decidir se estão violando ou não as regras da rede social.

Anteriormente, os moderadores revisavam as postagens à medida que eram publicadas. O Facebook decidiu mudar sua abordagem para olhar primeiro as postagens que estão ganhando mais alcance e, portanto, são capazes de causar mais danos. O modelo de inteligência artificial (IA) usará três critérios para selecionar as publicações mais prejudiciais: a viralidade, a história da publicação e a probabilidade de violação das regras. Depois disso, o AI marcará essas postagens para que subam na ordem do moderador.

«Todo conteúdo que viole as regras da rede social continuará a ser visualizado pelas pessoas, mas a utilização do novo sistema vai permitir uma priorização mais efetiva nesse processo ”, comentou no Facebook.

De acordo com a rede social, a nova abordagem vai ajudar a responder mais rapidamente e a lidar com a quebra de regras de publicações de amplo alcance.