Microsoft desmantela gangue de hackers que enganou IA para desenhar celebridades falsas inapropriadas

A Microsoft disse que descobriu hackers nos EUA e no exterior que estavam ignorando restrições em ferramentas de IA generativa, incluindo serviços OpenAI na nuvem Azure, para criar conteúdo malicioso, incluindo imagens íntimas de celebridades e outros conteúdos sexualmente explícitos. Segundo a empresa, hackers dos Estados Unidos, Irã, Grã-Bretanha, Hong Kong e Vietnã estavam envolvidos nessa atividade.

Fonte da imagem: Mika Baumeister / Unsplash

O relatório disse que os invasores extraíram logins de usuários de serviços de IA generativa de fontes abertas e os usaram para seus próprios propósitos. Após obter acesso ao serviço de IA, os hackers contornaram as restrições definidas pelos desenvolvedores e venderam acesso aos serviços de IA junto com instruções sobre como criar conteúdo malicioso.

A Microsoft acredita que todos os hackers identificados são membros de uma rede global de criminosos cibernéticos que a empresa chama de Storm-2139. Dois deles estão localizados na Flórida e em Illinois, mas a empresa não está divulgando suas identidades para evitar comprometer a investigação criminal. A gigante do software disse que está preparando solicitações relevantes para agências de segurança pública nos Estados Unidos e em vários outros países.

As medidas da Microsoft ocorrem em meio à crescente popularidade das redes neurais generativas e às preocupações de que a IA possa ser usada para criar imagens falsas de figuras públicas e cidadãos comuns. Empresas como a Microsoft e a OpenAI proíbem a geração desse tipo de conteúdo e limitam seus serviços de IA de acordo. No entanto, os hackers ainda tentam contornar essas restrições, o que geralmente conseguem.

«Levamos muito a sério o uso indevido da inteligência artificial e reconhecemos as consequências sérias e de longo prazo do abuso de imagem para potenciais vítimas. “A Microsoft continua comprometida em proteger os usuários implementando medidas robustas de segurança de IA em nossas plataformas e protegendo nossos serviços de conteúdo ilegal e malicioso”, disse Steven Masada, conselheiro geral associado do grupo de crimes cibernéticos da Microsoft.

O anúncio ocorre após uma ação judicial movida pela Microsoft em dezembro no Distrito Leste da Virgínia contra 10 indivíduos não identificados, na tentativa de reunir mais informações sobre o grupo de hackers e interromper suas atividades. A decisão do tribunal permitiu que a Microsoft assumisse o controle de um dos principais sites dos hackers. Isso e a divulgação de uma série de documentos judiciais no mês passado semearam pânico entre os criminosos, potencialmente revelando as identidades de alguns dos membros do grupo.