ChatGPT terá controle parental e aprenderá a identificar problemas psicológicos em usuários

A OpenAI anunciou planos para introduzir novos recursos no ChatGPT com o objetivo de melhorar as respostas da IA ​​em situações em que o usuário está passando por estresse emocional ou psicológico, bem como novos controles parentais, escreve o Silicon Angle.

Fonte da imagem: Nicolò Canu/Unsplash

A primeira atualização afetará o chamado roteador no GPT-5, o componente de IA que analisa as consultas do usuário e decide qual modelo de linguagem é mais adequado para processá-las. Na nova versão, o roteador será capaz de reconhecer sinais de estresse psicológico agudo, e tais consultas serão enviadas para um modelo “aprimorado” para raciocínio e conversas com os usuários. Tal modelo é capaz de fornecer “respostas mais úteis” do que outros, afirma a OpenAI.

Outro novo recurso é um sistema de controle parental. Os pais poderão definir restrições de idade, desativar o histórico de bate-papo e receber notificações sobre consultas potencialmente perigosas de seus filhos. E se o sistema decidir que uma criança está em estado de estresse psicológico, ele poderá enviar uma notificação aos pais. Esses recursos estarão disponíveis dentro de um mês.

A OpenAI afirma que os recursos de controle parental estão sendo desenvolvidos com a participação de especialistas na área de desenvolvimento de adolescentes e saúde mental. Em particular, a empresa colabora com a Global Physician Network, uma rede internacional de médicos que inclui mais de 200 especialistas em diversas áreas. “O trabalho deles influencia diretamente nossas pesquisas de segurança, treinamento de modelos e outras intervenções”, afirmou a empresa em um comunicado.

As novas iniciativas da OpenAI dão continuidade ao processo de aprimoramento da segurança da inteligência artificial, anunciado no mês passado. A empresa também está trabalhando para aprimorar o bloqueio de respostas de IA potencialmente perigosas.