A Apple afirma que os usuários não serão capazes de enganar a versão final do mecanismo de busca de imagens ilegais

Hoje, relatamos que os pesquisadores de software foram capazes de criar conflito em um mecanismo de busca para imagens contendo imagens de abuso infantil. A Apple reagiu à mensagem afirmando que os entusiastas tiveram acesso a apenas parte do código do sistema, o que, aliás, não é definitivo. A empresa garante que os falsos positivos serão totalmente excluídos da versão final do software.

Vice.com

A Apple explicou que sua tecnologia é muito mais complexa do que o mecanismo NeuralHash, que é apenas parte dele. Segundo a empresa, o recurso de detecção de imagens ilegais funcionará diretamente no dispositivo do usuário, ao contrário das soluções Google e Microsoft, que funcionam na nuvem. O sistema fará a varredura de fotos enviadas por usuários ao iCloud. Se ela encontrar mais de 30 imagens ilegais, ela irá denunciar às agências de segurança pública. Para eliminar erros, os resultados serão verificados por pessoas reais. A verificação multinível deve eliminar completamente os falsos positivos.

A Apple disse que a versão recriada e testada por entusiastas do NeuralHash não é definitiva. A empresa também lançou um algoritmo para garantir que os pesquisadores de segurança saibam que ele funciona como deveria. A Apple chama a atenção para o fato de que uma das etapas da verificação das imagens será realizada pelos especialistas da empresa, portanto, mesmo que os invasores possam marcar imagens comuns como ilegais, os especialistas marcarão a operação como falsa.

Desde que a Apple introduziu um sistema de rastreamento de imagens de abuso infantil, especialistas em segurança e membros do público levantaram preocupações sobre cenários de abuso em potencial. A empresa está tentando dissipar as preocupações publicando white papers e mantendo o diálogo com usuários céticos.