Golpistas inundam dezenas de milhares de sites com spam usando OpenAI GPT-4o-mini

O bot de spam AkiraBot usou o modelo de IA GPT-4o-mini por meio da API OpenAI para criar comentários de spam promovendo serviços falsos de SEO. A diversidade de conteúdo nesses comentários permitiu que eles contornassem os sistemas de filtragem de milhares de sites ao redor do mundo, de acordo com um estudo da SentinelOne.

Fonte da imagem: Wesley Tingey/Unsplash

De acordo com um relatório da empresa de segurança cibernética SentinelOne, o AkiraBot atacou pelo menos 80.000 sites, a maioria dos quais pertence a pequenas e médias empresas que usam plataformas de comércio eletrônico como Shopify, GoDaddy, Wix e Squarespace.

De acordo com a 404 Media, o bot enviou uma solicitação à API da OpenAI: “Você é um assistente útil que cria mensagens de marketing”, após a qual a IA gerou comentários de spam adaptados aos tópicos de sites específicos. Assim, foi criada uma versão de mensagens de spam para o site de uma construtora e outra para um salão de beleza. Esses comentários foram então postados em chats e formulários de feedback em sites, com o objetivo de incentivar seus proprietários a adquirir serviços de SEO. Versões posteriores do spambot também começaram a usar widgets de bate-papo on-line incorporados na maioria dos sites modernos para esses propósitos.

«Uma busca em sites com links para domínios do AkiraBot mostra que o bot já havia publicado mensagens de uma forma que permitia que fossem indexadas por mecanismos de busca”, afirmou a SentinelOne em um comunicado. O bot de spam em questão surgiu em setembro de 2024 e não tem relação com o grupo de ransomware Akira.

Além do GPT-4o-mini, o AkiraBot usou serviços de proxy para ignorar o CAPTCHA e mascarar a atividade da rede. A OpenAI bloqueou a chave de API relevante e disse que continuaria investigando, prometendo desabilitar todos os ativos relacionados ao incidente. “Levamos o abuso a sério e estamos constantemente aprimorando nossos sistemas para detectá-lo”, disse a OpenAI em um comunicado.

Houve casos anteriores de uso indevido de ferramentas OpenAI, inclusive na criação de materiais de propaganda por agências governamentais. No entanto, os cibercriminosos geralmente preferem usar seus próprios sistemas de IA. Assim, em 2023, foi identificado o modelo de IA WormGPT, que permitiu que fraudadores conduzissem correspondências em nome do banco e automatizassem o processo de enganar os usuários.