A OpenAI implementou um novo recurso no ChatGPT que lembra os usuários de fazerem uma pausa durante conversas longas com a IA. Os lembretes aparecem como janelas pop-up, e o usuário deve concordar em continuar a conversa. Em termos de formato, esse sistema é semelhante aos lembretes dos jogos de Nintendo Wii e Switch, mas, no caso do ChatGPT, ele foi projetado para resolver problemas mais sérios relacionados à saúde mental.
Fonte da imagem: Growtika/Unsplash
Como relata o Engadget, a decisão surge em meio a crescentes preocupações sobre o impacto da IA na saúde mental dos usuários. Em junho, o The New York Times publicou uma matéria sobre a tendência do ChatGPT de concordar incondicionalmente e gerar informações falsas ou potencialmente perigosas, o que levou alguns usuários, incluindo aqueles com problemas de saúde mental, a se envolverem em conversas destrutivas, inclusive discutindo pensamentos suicidas. No entanto, o bot nem sempre interrompia corretamente esses diálogos.
Em uma publicação no blog, a OpenAI reconheceu essas deficiências e afirmou que, no futuro, o ChatGPT será atualizado para responder com mais cuidado a perguntas relacionadas a decisões importantes da vida. Em vez de respostas diretas, a IA fará perguntas esclarecedoras, ajudará a analisar a situação e ponderará os prós e os contras.
A OpenAI já teve que reverter uma atualização que tornava o ChatGPT excessivamente útil e irritantemente bajulador. Embora a empresa pretenda tornar a IA útil e amigável, o equilíbrio entre apoio e bajulação era muito tênue. Os desenvolvedores pretendem fazer pausas nas conversas com a IA para, pelo menos, dar aos usuários tempo para verificar a confiabilidade das respostas do ChatGPT.