Esta semana, a startup OpenAI anunciou o lançamento de um modelo de previsão de idade para os planos de consumo do ChatGPT. Essas medidas visam identificar usuários menores de 18 anos para protegê-los de informações indesejadas. A idade é determinada, em parte, com base no histórico de uso do ChatGPT.
Fonte da imagem: OpenAI
A OpenAI foi obrigada a tomar essas medidas porque a Comissão Federal de Comércio dos EUA está investigando os desenvolvedores de chatbots populares devido ao seu potencial impacto negativo em crianças e adolescentes. A empresa é ré em diversos casos de homicídio culposo, incluindo um que supostamente envolve o suicídio de um adolescente.
Quando o modelo de previsão de idade determina que está interagindo com um menor de idade, ele implementa automaticamente mecanismos de proteção, bloqueando o acesso a certas informações, incluindo descrições de como prejudicar a saúde e a vida de uma pessoa. Se um usuário adulto do ChatGPT se deparar com essas restrições por engano, ele pode verificar novamente sua idade por meio do serviço Persona, após o qual as restrições serão removidas. Esse serviço também é usado para verificar a idade de usuários em outras plataformas online, incluindo o Roblox.
No outono passado, a OpenAI introduziu controles parentais no ChatGPT, permitindo que os usuários entendam quais solicitações seus filhos estão fazendo ao chatbot e a quais informações estão acessando. Em outubro, um grupo de oito especialistas foi convocado para avaliar o impacto potencial das interações com IA na saúde mental, nas emoções e na motivação de uma pessoa. Esta semana, a OpenAI enfatizou que irá aprimorar a precisão de sua previsão de idade ao longo do tempo. Esse mecanismo começará a ser implementado na União Europeia nas próximas semanas para garantir a conformidade com a legislação local.normas.