ChatGPT começará a “expulsar” usuários por crises por preocupação com sua saúde

A OpenAI implementou um novo recurso no ChatGPT que lembra os usuários de fazerem uma pausa durante conversas longas com a IA. Os lembretes aparecem como janelas pop-up, e o usuário deve concordar em continuar a conversa. Em termos de formato, esse sistema é semelhante aos lembretes dos jogos de Nintendo Wii e Switch, mas, no caso do ChatGPT, ele foi projetado para resolver problemas mais sérios relacionados à saúde mental.

Fonte da imagem: Growtika/Unsplash

Como relata o Engadget, a decisão surge em meio a crescentes preocupações sobre o impacto da IA na saúde mental dos usuários. Em junho, o The New York Times publicou uma matéria sobre a tendência do ChatGPT de concordar incondicionalmente e gerar informações falsas ou potencialmente perigosas, o que levou alguns usuários, incluindo aqueles com problemas de saúde mental, a se envolverem em conversas destrutivas, inclusive discutindo pensamentos suicidas. No entanto, o bot nem sempre interrompia corretamente esses diálogos.

Em uma publicação no blog, a OpenAI reconheceu essas deficiências e afirmou que, no futuro, o ChatGPT será atualizado para responder com mais cuidado a perguntas relacionadas a decisões importantes da vida. Em vez de respostas diretas, a IA fará perguntas esclarecedoras, ajudará a analisar a situação e ponderará os prós e os contras.

A OpenAI já teve que reverter uma atualização que tornava o ChatGPT excessivamente útil e irritantemente bajulador. Embora a empresa pretenda tornar a IA útil e amigável, o equilíbrio entre apoio e bajulação era muito tênue. Os desenvolvedores pretendem fazer pausas nas conversas com a IA para, pelo menos, dar aos usuários tempo para verificar a confiabilidade das respostas do ChatGPT.