Golpistas enganam Grok para distribuir links maliciosos

As pessoas devem ter cuidado ao usar o chatbot de IA xAI Grok de Elon Musk, pois clicar em links sugeridos pode infectar seus computadores com malware, de acordo com um estudo do Guardio Labs publicado pela Bleeping Computer.

Fonte da imagem: Mariia Shalabaieva/unsplash.com

Como o Guardio Labs descobriu, cibercriminosos estão veiculando anúncios em vídeo para adultos na plataforma X para atrair usuários. Em vez de publicar o link malicioso no texto para evitar o bloqueio pelo X, os hackers o ocultam no campo de metadados “De:” abaixo do vídeo, que aparentemente não é rastreado pela rede social em busca de links maliciosos.

Em seguida, os invasores deixam comentários abaixo do vídeo solicitando que a Grok informe de onde ele veio. Em resposta, a Grok analisa o campo oculto “De:” e fornece um link completo para o site malicioso em um formato clicável. Ao clicar nele, os usuários são redirecionados para um site que geralmente contém malware e outras ferramentas fraudulentas para roubar informações pessoais.

Como a Grok é automaticamente uma conta de sistema confiável na plataforma X, suas postagens aumentam a autoridade, o alcance, o SEO e a reputação do link, aumentando a probabilidade de ele ser exibido para um grande número de usuários.

Nati Tal, CEO da Guardio Labs, chama essa prática de “Grokking”, observando que ela é muito eficaz, permitindo, em alguns casos, atingir milhões de impressões de anúncios maliciosos. Para evitar problemas, Tal sugere escanear todos os campos, bloquear links ocultos e adicionar um recurso de sanitização de contexto ao Grok para que o assistente de IA filtre os links e os verifique em listas de bloqueio.