O mecanismo de usar caracteres invisíveis em textos era anteriormente utilizado para enviar solicitações maliciosas ocultas a sistemas de inteligência artificial. Agora, a Microsoft observa que ele foi adaptado para a distribuição de spam, o que é difícil de ser combatido pelos serviços modernos de IA.
Fonte da imagem: microsoft.com
Um conjunto de 128 caracteres Unicode em um bloco especial permanece invisível para humanos, mas é legível para computadores. Anteriormente, esses caracteres podiam ser incorporados em e-mails: o usuário os via como texto inofensivo, enquanto o modelo que os analisava recebia instruções maliciosas. Agora, esse mecanismo foi invertido: caracteres invisíveis ajudam a burlar os filtros de spam, segundo a Microsoft. Em determinado momento no início de fevereiro, o Microsoft Defender para Office detectou que o volume de e-mails com caracteres ocultos saltou de 21.000 para 1,3 milhão por dia. Em quatro dias, esse número aumentou para 2,5 milhões; o fluxo continuou por vários meses, antes de diminuir drasticamente no final de maio.
Os filtros de spam costumam procurar palavras-chave como “crédito”, “prazo” ou valores monetários específicos no texto dos e-mails — todos comuns em envios em massa. Para enganá-los, os spammers começaram a inserir caracteres invisíveis no meio das palavras. Como resultado, o texto do e-mail permanece o mesmo para os humanos, mas os computadores não veem mais as palavras-chave, mesmo que elas sejam de fato usadas no texto do e-mail. Modelos de inteligência artificial baseados em aprendizado de máquina e processamento de linguagem natural, integrados a filtros de spam, também falham em detectá-los. A única maneira óbvia de combater esse flagelo é o reconhecimento óptico de caracteres (OCR), que exibe o texto como ele apareceria para os humanos.
A Microsoft alertou que os filtros de spam tradicionais podem ser impotentes contra esses mecanismos e ofereceu recomendações para uma filtragem mais eficaz.Detecção de substituição de caracteres ASCII em spam.