Os cientistas argumentam que o Apple CSAM não pode ser seguro “sob quaisquer circunstâncias”

Cientistas da Universidade de Princeton (EUA) há vários anos desenvolvem um sistema semelhante ao que a Apple vai usar para detectar imagens de abuso infantil nos telefones dos usuários. Em sua opinião, a tecnologia pode ser perigosa.

Fonte: engadget.com

O professor associado Jonathan Mayer e o estudante de pós-graduação Anunay Kulshrestha têm trabalhado na ideia de um sistema de detecção de materiais de abuso sexual infantil (CSAM) por vários anos. Como a Apple, eles queriam restringir a distribuição de tal conteúdo, preservando a privacidade do usuário. Em outras palavras, o objetivo era analisar conteúdo em serviços online com criptografia ponta a ponta.

Após um estudo analítico do sistema, os cientistas criaram um protótipo funcional. E eles rapidamente chegaram à conclusão de que, qualquer que seja o resultado, essa tecnologia deixa um “problema gritante” sem solução. O sistema pode ser facilmente adaptado para resolver as tarefas de rastreamento de usuários e censura. No nível técnico, em nenhuma circunstância pode ser limitado a apenas um tipo de conteúdo – seu trabalho está totalmente subordinado ao conteúdo do banco de dados, com os elementos dos quais o conteúdo é comparado em dispositivos clientes.

Os autores do projeto esclarecem que este problema não é puramente hipotético. Por exemplo, pesquisadores do Citizen Lab da Universidade de Toronto descobriram um sistema de análise semelhante no mensageiro chinês WeChat, que usa um algoritmo semelhante para detectar materiais dissidentes. Dado que a China é o segundo maior mercado da Apple, nada pode impedir o governo local se ele decidir pedir à Apple que reaproveite o sistema para uso político. O fabricante americano tem se submetido repetidamente aos diversos requisitos de Pequim.

Finalmente, existem muitas dificuldades de natureza puramente técnica. Por exemplo, o sistema pode fornecer falsos positivos. E com certas habilidades, um invasor pode enganar o sistema direcionando sua ação contra qualquer usuário inocente.

avalanche

Postagens recentes

A votação sobre a introdução de taxas mais elevadas sobre os carros elétricos chineses na UE foi adiada para 4 de outubro

Até agora, acreditava-se que os parlamentares europeus deveriam votar até 25 de setembro para aprovar…

3 horas atrás

O Plucky Squire é um herói do livro e além. Análise

17 de setembro de 2024 Jogado no PlayStation 5 Quando o trailer de estreia de…

11 horas atrás

Índia lançou cinco supercomputadores em dois dias

O primeiro-ministro indiano Narendra Modi, de acordo com o The Register, anunciou o comissionamento de…

12 horas atrás

A Terra teve a chance de sobreviver à morte do Sol – isso já aconteceu em nossa galáxia

Em cerca de 4,5 mil milhões de anos, o Sol transformar-se-á numa gigante vermelha e…

14 horas atrás

Google introduziu a tecnologia de design de chip AlphaChip usando IA

O Google introduziu o AlphaChip, um método de aprendizagem por reforço para inteligência artificial para…

15 horas atrás