O Google descobriu um grupo criminoso que estava usando o serviço de IA Gemini para realizar ataques de phishing.

Assim como a maioria das ferramentas, a inteligência artificial pode ser usada tanto para o bem quanto para o mal. O Google descobriu que um grupo criminoso com sede na China enviou mais de 2,5 milhões de e-mails de phishing para assinantes de telefonia móvel nos EUA no mês passado, usando o Gemini para otimizar suas operações.

Fonte da imagem: Unsplash, Boitumelo

A organização criminosa Outsider Enterprise, de acordo com um processo movido pela Alphabet e citado pela Bloomberg, passou duas semanas enviando mensagens de texto de phishing em massa para assinantes de telefonia móvel nos EUA, disfarçando-as como notificações de redefinição de senha e rastreamento de encomendas. As mensagens continham links para sites de phishing que, ao serem clicados, induziam usuários de smartphones Android a inserir informações pessoais confidenciais.

O Google alega que o grupo criminoso usou o serviço Gemini para gerar automaticamente o código com o qual criaram os sites de phishing. Era difícil para um usuário sem conhecimento técnico distinguir as mensagens de phishing das notificações oficiais enviadas pelo Google ou outras organizações legítimas. A investigação identificou 9.000 sites falsos e mais de 1 milhão de links de phishing. O Google foi obrigado a trabalhar com operadoras de telecomunicações americanas para bloquear as mensagens SMS de phishing enviadas a assinantes nos EUA. O prejuízo financeiro causado pelas atividades do grupo não foi especificado.