Esta semana, o Google anunciou uma parceria com a StopNCII.org para combater em conjunto a distribuição de fotos e vídeos íntimos postados online sem o consentimento das pessoas retratadas em seu mecanismo de busca. O gigante das buscas começará a usar hashes fornecidos pela StopNCII para identificar essas imagens e removê-las dos resultados de busca.
Fonte da imagem: Firmbee.com / Unsplash
O Google usará hashes, identificadores gerados algoritmicamente, para identificar e bloquear conteúdo sinalizado como ofensivo. De acordo com a fonte, o projeto StopNCII.org usa hashes PDQ para imagens e hashes MD5 para vídeos. O bloqueio pode incluir não apenas conteúdo íntimo publicado sem consentimento, mas também, por exemplo, imagens manipuladas ou deepfakes gerados por redes neurais.
O Google já foi repetidamente criticado por ser mais lento do que outros grandes players do setor na implementação dessa iniciativa. Vale lembrar que Facebook✴, Instagram✴, TikTok e Bumble aderiram à iniciativa StopNCII em 2022, enquanto a Microsoft e seu mecanismo de busca Bing seguiram em setembro de 2024.
O gigante das buscas já implementou ferramentas para enviar solicitações de remoção desse tipo de conteúdo, juntamente com informações de contato pessoal, mas, como antes, as vítimas dessas publicações eram obrigadas a encontrar e sinalizar o conteúdo de forma independente. Agora, esse trabalho caberá em grande parte ao StopNCII.org e ao Google. Quanto ao projeto StopNCII em si, ele foi lançado pela instituição de caridade britânica South West Grid for Learning.