A Microsoft disse que descobriu hackers nos EUA e no exterior que estavam ignorando restrições em ferramentas de IA generativa, incluindo serviços OpenAI na nuvem Azure, para criar conteúdo malicioso, incluindo imagens íntimas de celebridades e outros conteúdos sexualmente explícitos. Segundo a empresa, hackers dos Estados Unidos, Irã, Grã-Bretanha, Hong Kong e Vietnã estavam envolvidos nessa atividade.
Fonte da imagem: Mika Baumeister / Unsplash
O relatório disse que os invasores extraíram logins de usuários de serviços de IA generativa de fontes abertas e os usaram para seus próprios propósitos. Após obter acesso ao serviço de IA, os hackers contornaram as restrições definidas pelos desenvolvedores e venderam acesso aos serviços de IA junto com instruções sobre como criar conteúdo malicioso.
A Microsoft acredita que todos os hackers identificados são membros de uma rede global de criminosos cibernéticos que a empresa chama de Storm-2139. Dois deles estão localizados na Flórida e em Illinois, mas a empresa não está divulgando suas identidades para evitar comprometer a investigação criminal. A gigante do software disse que está preparando solicitações relevantes para agências de segurança pública nos Estados Unidos e em vários outros países.
As medidas da Microsoft ocorrem em meio à crescente popularidade das redes neurais generativas e às preocupações de que a IA possa ser usada para criar imagens falsas de figuras públicas e cidadãos comuns. Empresas como a Microsoft e a OpenAI proíbem a geração desse tipo de conteúdo e limitam seus serviços de IA de acordo. No entanto, os hackers ainda tentam contornar essas restrições, o que geralmente conseguem.
«Levamos muito a sério o uso indevido da inteligência artificial e reconhecemos as consequências sérias e de longo prazo do abuso de imagem para potenciais vítimas. “A Microsoft continua comprometida em proteger os usuários implementando medidas robustas de segurança de IA em nossas plataformas e protegendo nossos serviços de conteúdo ilegal e malicioso”, disse Steven Masada, conselheiro geral associado do grupo de crimes cibernéticos da Microsoft.
O anúncio ocorre após uma ação judicial movida pela Microsoft em dezembro no Distrito Leste da Virgínia contra 10 indivíduos não identificados, na tentativa de reunir mais informações sobre o grupo de hackers e interromper suas atividades. A decisão do tribunal permitiu que a Microsoft assumisse o controle de um dos principais sites dos hackers. Isso e a divulgação de uma série de documentos judiciais no mês passado semearam pânico entre os criminosos, potencialmente revelando as identidades de alguns dos membros do grupo.
\nO estúdio britânico Creative Assembly (de propriedade da Sega) realizou a primeira demonstração de jogabilidade…
\nA Valve informou que o sistema de proteção contra superaquecimento do mini-PC Steam Machine não…
\nO Conselho da União Europeia ampliou a lista de sanções para incluir a empresa VK…
\nA Gigabyte lançou a placa-mãe compacta B850M Aorus Stealth no formato Micro-ATX. A principal característica…
\nO Ministério da Educação da Federação Russa estabeleceu padrões para o uso de smartphones, computadores…
\nA recente decisão da Sony de parar de lançar jogos em discos ópticos a partir…