O ChatGPT agora possui um “contato de confiança” que será notificado caso um usuário esteja prestes a se machucar.

Usuários do Adult ChatGPT agora podem designar um “contato de confiança” nas configurações da conta — uma pessoa que a OpenAI contatará em caso de emergência relacionada à saúde mental ou segurança. O serviço enviará uma notificação se o usuário discutir assuntos como automutilação ou suicídio com a IA.

Fonte da imagem: openai.com

“O recurso Contato de Confiança baseia-se em uma premissa simples e testada por especialistas: quando alguém está em crise, conectar-se com alguém que conhece e em quem confia pode ser crucial. Ele oferece uma camada adicional de suporte, além das linhas de ajuda locais já disponíveis no ChatGPT”, explicou a OpenAI.

O Contato de Confiança é opcional. Qualquer usuário adulto do ChatGPT pode ativá-lo adicionando as informações de contato de outro adulto (com 18 anos ou mais globalmente e 19 anos ou mais na Coreia do Sul) nas configurações da sua conta. O Contato de Confiança deve aceitar o convite em até uma semana após recebê-lo. Os usuários podem editar ou excluir seu Contato de Confiança a qualquer momento, e o Contato de Confiança também pode revogar seu status.

O conteúdo da notificação será “intencionalmente limitado”, esclareceu a OpenAI — o Contato de Confiança não receberá nenhuma parte da conversa com a IA. Se os sistemas do ChatGPT detectarem que um usuário está falando sobre automutilação, a plataforma o aconselhará a entrar em contato com um contato de confiança e o notificará de que ele pode receber uma notificação. O incidente será então investigado por um “pequeno grupo de pessoas treinadas”, e o ChatGPT enviará ao contato de confiança um breve e-mail, mensagem de texto ou notificação no aplicativo ChatGPT, se instalado, alertando-o de que a conversa indica sérios problemas de segurança.