Meta desenvolveu um algoritmo de IA para responder rapidamente a novos tipos de conteúdo malicioso

Meta, antigo Facebook, anunciou um sistema de inteligência artificial que pode se adaptar mais rapidamente a novos tipos de conteúdo malicioso, incluindo postagens pedindo às pessoas que parem de vacinar contra COVID-19. Ao mesmo tempo, a IA detectará não apenas materiais obviamente maliciosos, mas também desinformação oculta.

Fonte: geralt / pixabay.com

Se normalmente treinar inteligência artificial requer grandes quantidades de dados, e o processo de processamento de informações pode levar meses, então a tecnologia Few-Shot Learner precisa apenas de um pequeno conjunto de dados – o conteúdo malicioso será automaticamente reconhecido em algumas semanas.

Por exemplo, as políticas de mídia social podem restringir a publicação de postagens relatando os perigos das vacinas COVID-19, incluindo alegações de que a vacina altera o DNA. Ao mesmo tempo, alguns usuários parafraseiam as afirmações em perguntas como “Uma vacina ou um meio de mudar o DNA?” ou até mesmo usar palavras de código para ocultar o significado das declarações das máquinas. De acordo com Meta, a nova tecnologia detectará conteúdo que tenta se esconder da inteligência artificial.

«Se respondermos mais rápido, podemos agir ou moderar o conteúdo de maneira mais oportuna. Em última análise, o objetivo principal é a segurança do usuário ”, diz Meta.

A criação de um novo sistema de IA ajudará a rede social a evitar críticas, inclusive do presidente dos EUA, Joe Biden – muitos acreditam que Meta não está fazendo o suficiente para combater a desinformação.

Fonte: geralt / pixabay.com

De acordo com Meta, a empresa testou o novo sistema e foi capaz de reconhecer conteúdo que algoritmos convencionais de IA não podem “ver”. Alega-se que, após a introdução do novo desenvolvimento no Facebook e Instagram, a porcentagem de visualizações de materiais maliciosos diminuiu significativamente. O Few-Shot Learner “aprendeu” mais de 100 idiomas, de modo que pode detectar informações incorretas mesmo quando há muito menos dados para o treinamento de IA do que no segmento de língua inglesa.

Como o Facebook pretende construir um metaverso, a moderação de conteúdo no espaço virtual se tornará mais desafiadora, mas no final, Meta espera que os algoritmos do Few-Shot Learner sejam aplicados lá também – o objetivo principal é treinar efetivamente computadores com cada vez menos informações .