Twitter queria ganhar dinheiro como OnlyFans, mas não conseguiu lidar com moderação

Na primavera de 2022, o Twitter queria fazer uma mudança radical. Há muitos anos, o serviço está tranquilo com a abundância de conteúdo adulto na plataforma, e a empresa pensou seriamente em monetizar esse conteúdo com base em assinaturas pagas, como é feito no OnlyFans. No entanto, os planos não estavam destinados a se tornar realidade devido à incapacidade da plataforma de remover prontamente o conteúdo proibido, de acordo com o The Verge.

Fonte da imagem: Photo Mix / pixabay.com

Se o projeto fosse bem-sucedido, o Twitter certamente perderia muitos anunciantes, mas isso poderia ser mais do que compensado pela receita dos criadores de conteúdo adulto: a receita do OnlyFans poderia chegar a US$ 2,5 bilhões somente neste ano – cerca de metade da receita do Twitter em 2021. A gestão do serviço de microblogging inicialmente considerou a ideia bem sucedida, especialmente porque muitos autores OnlyFans promovem seus canais no Twitter. Por isso, foram alocados recursos para implementar a ideia, e o projeto em si foi chamado de ACM (Adult Content Monetization – “Monetização de conteúdo adulto”).

Para trabalhar no projeto, foi formado um departamento Red Team de 84 pessoas. E muito rapidamente, já em abril de 2022, a equipe do departamento chegou à conclusão de que o Twitter não conseguia garantir a venda segura de assinaturas de conteúdo adulto, porque a plataforma não controlava e ainda não controla a publicação de conteúdo ilegal. Como se viu, a empresa simplesmente não possui ferramentas para verificar se os criadores e consumidores de conteúdo adulto atingiram a maioridade. E em maio, ou seja, após o início do épico com a compra do Twitter por Elon Musk, o projeto foi adiado por tempo indeterminado.

Funcionários da Red Team disseram que o lançamento do ACM só agravaria o problema porque mais conteúdo adulto seria postado na plataforma, o que aumentaria a quantidade de conteúdo ilegal. No entanto, após a suspensão dos trabalhos no projeto, a direção, perfeitamente ciente da essência do problema, ainda nada faz para resolvê-lo. Isso ficou conhecido 15 meses antes, quando a empresa contratou outra equipe de especialistas para começar a trabalhar na melhoria do conteúdo no Twitter. Então, descobriu-se que os meios da empresa para detectar materiais que continham abuso infantil haviam perdido sua relevância e eficácia.

Fonte da imagem: edar/pixabay.com

No entanto, gigantes da tecnologia como Google e Facebook* estão levando o problema muito mais a sério: Mark Zuckerberg se gabou em 2019 de que o Facebook* sob seu controle gasta mais em segurança sozinho do que o Twitter ganha. As plataformas tecnológicas se apoiam nessa luta: uma das principais ferramentas é o serviço PhotoDNA, criado pela Microsoft em 2009. No entanto, este sistema responde apenas a materiais proibidos conhecidos.

Ao contrário de outras grandes empresas que já desenvolveram suas próprias soluções, os funcionários do Twitter precisam tentar detectar manualmente o conteúdo que o PhotoDNA perdeu, e a principal ferramenta de trabalho da empresa é um certo complexo RedPanda, que agora está desatualizado e perdeu o suporte. Os sistemas baseados em aprendizado de máquina à disposição do Twitter ainda não conseguem detectar conteúdo proibido em nenhum dos formatos disponíveis. E os moderadores nem sempre fazem o seu trabalho – em um caso, um vídeo com conteúdo ilegal permaneceu na plataforma por mais de 23 horas, mesmo depois que os usuários registraram reclamações sobre isso. Embora, de acordo com a porta-voz da empresa Katie Rosborough, o Twitter tenha aumentado significativamente seu investimento na detecção de tais materiais em fevereiro de 2021 e ainda hoje,

No entanto, a empresa pode não conseguir manter o que foi alcançado. Em 23 de agosto, o Twitter anunciou que o departamento de conteúdo anti-malicioso estava se fundindo com o departamento responsável pelo combate aos spambots. A empresa tomou essa medida, claro, pelo fato de Elon Musk acusar a gestão do Twitter de fornecer informações falsas sobre a questão do spam na plataforma. Talvez o empresário tenha decidido erroneamente que essa questão era a mais importante. E é possível que os problemas do Twitter com Elon Musk estejam apenas começando.

* Ele está incluído na lista de associações públicas e organizações religiosas em relação às quais o tribunal tomou uma decisão final para liquidar ou proibir atividades nos fundamentos previstos na Lei Federal nº 114-FZ de 25 de julho de 2002 “Sobre o combate ao extremismo atividade”.