Novas regras da UE exigirão que mensageiros verifiquem mensagens em busca de violações

A Comissão Europeia está pronta para propor novas regras, segundo as quais aplicativos de mensagens como WhatsApp ou Facebook* Messenger irão escanear seletivamente as mensagens dos usuários em busca de materiais relacionados ao abuso sexual infantil (o chamado CSAM) e tentativas de assediar menores por parte de adultos. O projeto foi criticado por especialistas em segurança da informação e ativistas de direitos humanos.

Fonte da imagem: alberthbq/pixabay.com

Depois que o projeto foi revelado no início desta semana, foi imediatamente criticado por vários grupos e especialistas. Segundo um deles, “o documento representa a coisa mais terrível que ele já viu”. Alguns especialistas dizem que esta é uma das leis mais “vergonhosas”, completamente incompatível com qualquer democracia livre. Em particular, a lei prevê uma série de novas obrigações para “prestadores de serviços online”, incluindo lojas de aplicativos, serviços de hospedagem e quaisquer provedores de “serviços de comunicação interpessoal”.

Os padrões mais severos serão aplicados aos mensageiros instantâneos populares. Assim, após receber uma solicitação das autoridades, a administração do mensageiro será obrigada a escanear as mensagens dos usuários indicados pelas autoridades em busca de materiais relacionados à violência sexual contra crianças, bem como fatos de assédio – isso exigirá o uso de ferramentas de visão de máquina e sistemas de IA para analisar o contexto de fotos e textos. As solicitações serão feitas pelas agências de aplicação da lei de cada estado. No entanto, o documento carece de uma definição exata de como as solicitações serão “direcionadas” – para indivíduos, comunidades ou categorias mais amplas de usuários.

Fonte da imagem: iAmMrRob/pixabay.com

Os críticos argumentam que tais solicitações podem ser usadas para espionar grandes grupos. Segundo alguns especialistas, o projeto de lei “deixa a porta aberta para uma vigilância muito mais geral”. Além disso, se adotada, a lei poderia anular completamente o sistema de criptografia de ponta a ponta. Embora não seja proibido no documento, as empresas serão obrigadas a usar em seus sistemas softwares capazes de identificar o conteúdo CSAM, o que tornará quase impossível a criptografia de ponta a ponta. Como as regras da UE afetam a política digital em todas as partes do mundo, regras semelhantes podem se espalhar para o resto do planeta.

De acordo com o representante da organização de direitos humanos Electronic Frontier Foundation, não há como fazer o que a UE pretende fazer sem a varredura de mensagens em massa. Se o projeto se tornar lei, violará a privacidade dos usuários não apenas na UE, mas em todo o mundo.

Além disso, no caso de “assédio”, a detecção de conteúdo exigirá o uso de algoritmos inovadores especiais, como resultado dos quais os erros são inevitáveis ​​e usuários inocentes de mensagens instantâneas chamam a atenção das agências policiais. Como exemplo da ineficácia de tais ferramentas, ativistas de direitos humanos citam filtros de spam que constantemente cometem erros na avaliação de conteúdo.

* Está incluído na lista de associações públicas e organizações religiosas em relação às quais o tribunal tomou uma decisão final para liquidar ou proibir atividades com base na Lei Federal nº 114-FZ de 25 de julho de 2002 “Sobre o combate ao extremismo atividade”.