A OpenAI anunciou a implementação de um sistema de controle parental nas versões para desktop e dispositivos móveis do ChatGPT após uma ação judicial movida pelos pais de um adolescente da Califórnia que, segundo eles, cometeu suicídio após se comunicar com inteligência artificial (IA), relata a Reuters.
Fonte da imagem: Emiliano Vittoriosi/Unsplash
Novas medidas anunciadas pela empresa permitirão configurações flexíveis de segurança e privacidade para menores. De acordo com a OpenAI, os pais poderão restringir o acesso dos adolescentes a conteúdo sensível, gerenciar a gravação do histórico de bate-papo e decidir se as conversas podem ser usadas para treinar ainda mais os modelos da empresa. Além disso, os pais poderão definir um “modo silencioso”, durante o qual o acesso ao serviço será bloqueado, bem como desativar o modo de voz e as funções de geração e edição de imagens.
A OpenAI enfatiza que os pais não poderão acessar diretamente a correspondência de seus filhos adolescentes. Em casos raros em que sistemas automatizados e moderadores detectem sinais de uma ameaça grave à segurança, os pais poderão receber apenas as informações necessárias para dar suporte ao adolescente.
Essa medida ocorre em meio a um crescente escrutínio por parte dos reguladores dos EUA sobre empresas de inteligência artificial devido ao potencial impacto negativo dos chatbots.