OpenAI expurga ChatGPT de contas suspeitas de serem maliciosas da China e da Coreia do Norte

A OpenAI suspendeu as contas de usuários na China e na Coreia do Norte que supostamente usaram a tecnologia da empresa para fins maliciosos, incluindo vigilância e campanhas de influência. A OpenAI disse em uma declaração que regimes autoritários poderiam usar inteligência artificial para prejudicar os Estados Unidos e seus próprios cidadãos. Note-se que um algoritmo especial de IA foi usado para identificar atividades suspeitas.

Fonte da imagem: Dima Solomin / unsplash.com

A empresa não informou quantas contas foram bloqueadas ou há quanto tempo está procurando contas cujos proprietários estejam potencialmente envolvidos em atividades maliciosas. O comunicado afirma que, em um desses casos, um usuário do ChatGPT gerou notícias em espanhol com o objetivo de denegrir os Estados Unidos. Esses materiais foram posteriormente publicados por veículos de notícias da América Latina em nome da empresa chinesa.

No segundo caso, invasores com supostos vínculos com a Coreia do Norte usaram inteligência artificial para criar currículos e perfis online de candidatos fictícios para garantir emprego em empresas ocidentais. Um grupo de contas pertencentes a usuários do Camboja e vinculadas a fraudes financeiras também foram identificadas. Eles foram usados ​​para traduzir e postar comentários em várias redes sociais, incluindo X e Facebook✴.

O governo dos EUA expressou preocupação de que a China esteja supostamente usando inteligência artificial para controlar a opinião pública no país, bem como para espalhar desinformação e prejudicar a segurança dos EUA e de seus aliados. Como lembrete, o ChatGPT da OpenAI é o bot de IA mais popular, com 400 milhões de usuários ativos semanalmente. A empresa está em negociações para levantar até US$ 40 bilhões com uma avaliação de US$ 300 bilhões para a OpenAI, o que seria uma rodada de financiamento recorde para uma empresa privada.