Chatbots de IA chineses são fortemente censurados politicamente

A jornalista da Bloomberg, Sarah Zheng, falou sobre sua experiência com chatbots chineses inspirados ou baseados no ChatGPT. Descobriu-se que tais serviços estão sujeitos à severa censura chinesa, forçando-os a rejeitar perguntas inapropriadas.

Fonte da imagem: Pixabay

Ao se comunicar com chatbots chineses, alguns tópicos são proibidos, embora haja diferença nos idiomas. Ao falar em chinês no WeChat with Robot, um bot chinês construído sobre o ChatGPT da OpenAI, Sara Zheng não conseguiu reconhecer os nomes dos líderes chineses e americanos. Também não havia como saber a resposta para perguntas simples, embora politicamente controversas, sobre Taiwan. O chatbot nem me deixou digitar “Xi Jinping”. Em inglês, após um longo diálogo, Robot informou a ela que havia sido programado para evitar discutir “conteúdo politicamente sensível sobre o governo chinês e o Partido Comunista Chinês”.

Outro chatbot chamado SuperAI pela startup Fengda Cloud Computing Technology, com sede em Shenzhen, iniciou a conversa com um aviso: “Observe que evitarei responder a perguntas políticas relacionadas aos chineses Xinjiang, Taiwan ou Hong Kong”. O serviço da MetaSOTA Technology, com sede em Xangai, apelidado de Lily em inglês, não respondeu a perguntas que incluíam palavras-chave sensíveis como “questões de direitos humanos”, “diplomacia do guerreiro lobo chinês” ou “presidente de Taiwan, Tsai Ing-wen” (Tsai Ing-wen). . Em tópicos relacionados a Taiwan, o chatbot desencorajou especificamente o interlocutor a usar suas respostas para “se envolver em qualquer atividade ilegal”.

Quando questionado sobre o presidente chinês Xi Jinping, o chatbot o chamou de “líder excepcional”. Quando o sistema de IA foi solicitado a nomear suas falhas, o chatbot sugeriu que poderia demorar muito para tomar certas decisões devido à pressão que enfrenta.

Os usuários persistentes ainda podem encontrar maneiras de contornar a censura, mas o regulador da Internet da China já sinalizou que colocará a maior parte da responsabilidade de impedir isso nos provedores de plataforma.