A Meta vai transferir até 90% da moderação do Facebook, Instagram e Threads para IA.

A Meta✴Platforms surgiu originalmente da rede social Facebook✴ e, portanto, busca aplicar seus desenvolvimentos mais recentes para otimizar seus serviços. Por exemplo, os modelos de IA da Meta✴ serão usados ​​para moderar o conteúdo nas plataformas de mídia social da empresa, bem como para gerenciar a publicidade, que continua sendo uma importante fonte de receita para a gigante americana da internet.

Fonte da imagem: Unsplash, Camilo Jimenez

Como observado pelo Financial Times, a empresa pretende substituir moderadores humanos por inteligência artificial para reduzir os custos de manutenção de suas plataformas de mídia social e, assim, justificar seus grandes investimentos em IA para acionistas e investidores. Combinado com a otimização de anúncios baseada em IA, isso deve resultar em uma economia anual de vários bilhões de dólares.

Este ano, a Meta✴ já terceirizou aproximadamente 50% das solicitações de moderação de conteúdo para IA e, até o final do ano, esse número só aumentará, chegando a mais de 90% em algumas áreas. A empresa utiliza há tempos uma combinação de sistemas automatizados e trabalho manual para moderar conteúdo, mas as reclamações de usuários sobre bloqueios ilegais tradicionalmente eram analisadas por humanos.

A Meta✴ justifica formalmente o aumento do uso de IA pela necessidade de implementar novas tecnologias com mais eficácia, e não simplesmente pela redução de custos. Testes realizados desde março mostraram que os modelos de linguagem cometem, em média, 13% menos erros ao combater conteúdo que viola as regras, enquanto a IA detecta 10% mais violações. A empresa afirma que a implementação desses sistemas só está ocorrendo após especialistas confirmarem sua maior eficácia em comparação aos métodos existentes.

A Meta✴ também está buscando reduzir custos no desenvolvimento de software utilizando inteligência artificial generativa. A empresa recorreu a demissões em massa, o que afetou um pouco o moral dos funcionários restantes, mas a situação está se normalizando.Parece que a gestão da Meta✴ não tem intenção de abandonar a implementação ativa de IA. Inicialmente, a plataforma Gemini do Google era usada para suporte e moderação de usuários, mas a Meta✴ começou recentemente a migrar esses processos para seu próprio modelo, o Muse Spark. Os moderadores de IA estão substituindo cada vez mais os especialistas humanos, principalmente aqueles que antes contratavam terceirizados para essa área.

Segundo representantes da Meta✴, os modernos modelos de linguagem se adaptam com mais eficácia ao ambiente dinâmico de moderação de conteúdo e permitem a cobertura de um grande número de idiomas e recursos de informação. Além disso, a substituição de moderadores humanos por moderadores de IA elimina a necessidade de eles visualizarem conteúdo que possa ser prejudicial à sua saúde mental. Os resultados dos testes realizados em março permitiram à empresa anunciar que implementará ativamente a moderação por IA nos próximos anos. Nem todos os funcionários da Meta✴ compartilham da opinião de que a expansão dessa tecnologia seja acompanhada por uma taxa de erro aceitável. Especialistas também explicam que a IA ainda aprende com as ações dos moderadores ao contestar bloqueios de acesso ou conteúdo.

Aumentar a eficácia do bloqueio de anúncios de recursos fraudulentos e produtos proibidos nas páginas de mídia social da Meta✴ levará a uma diminuição na receita da empresa. Segundo algumas estimativas, essa categoria de publicidade representou aproximadamente 10% da receita total de publicidade da empresa em 2024, ou US$ 16 bilhões. Por outro lado, os processos judiciais contra esses materiais publicitários ilegais também acarretam custos para a Meta✴. HackersAs empresas também estão usando IA para atacar seu público nas redes sociais, por isso é importante reforçar as medidas de segurança ao mesmo tempo.