A OpenAI detalhou planos para corrigir as falhas do ChatGPT ao lidar com “situações delicadas”, um problema que a empresa abordou após ser processada pela família de um adolescente que cometeu suicídio.
Fonte da imagem: Mariia Shalabaieva / unsplash.com
«“Continuaremos a aprimorar [o ChatGPT] com base em consultoria especializada e em nossa responsabilidade com as pessoas que usam nossas ferramentas, e esperamos que outros se juntem a nós para garantir que esta tecnologia proteja as pessoas quando elas estiverem mais vulneráveis”, prometeu a empresa em um blog corporativo. No dia anterior, a OpenAI foi processada pelos pais de Adam Raine, de 16 anos, que cometeu suicídio; os autores alegam que “o ChatGPT ajudou ativamente Adam a aprender como cometer suicídio”. A OpenAI explicou que o ChatGPT é treinado para oferecer ajuda a pessoas que expressam intenções perigosas. Mas, em correspondências de longo prazo, esse recurso pode começar a funcionar mal, e o chatbot às vezes fornece respostas que contradizem as políticas de segurança da empresa.
A desenvolvedora falou sobre a próxima atualização do modelo principal GPT-5, com a qual o chatbot aprenderá a reduzir a intensidade das discussões. Além disso, a empresa está explorando a possibilidade de transferir os usuários para “psicoterapeutas certificados antes que a crise se agrave” – a opção de formar um grupo de especialistas com quem os usuários possam entrar em contato diretamente pelo ChatGPT não está descartada. A OpenAI também prometeu adicionar controles que ajudarão os pais a entender melhor como seus filhos usam o ChatGPT. De acordo com seu advogado, a empresa não tentou entrar em contato com membros da família de Rain – ninguém expressou condolências ou desejo de discutir o trabalho para melhorar a segurança dos produtos da empresa.
Houve outros casos de suicídio entre usuários do ChatGPT, segundo a CNBC. À medida que os serviços de inteligência artificial continuam a crescer em popularidade, crescem as preocupações sobre seu uso para terapia, comunicação e outras necessidades sociais.
O Open Compute Project (OCP) lançou a especificação de rack de servidor Open Rack Wide…
Representantes da OpenAI estão convencidos de que as ações judiciais de Elon Musk visam fortalecer…
A Supermicro divulgou seus resultados do terceiro trimestre fiscal de 2026, encerrado em 31 de…
Implementado inicialmente sob pressão das autoridades americanas, o projeto para estabelecer uma fábrica de chips…
Os desenvolvedores do estúdio britânico Playground Games, pertencente ao Xbox, responderam a um vazamento do…
A Microsoft é a investidora estratégica mais antiga da OpenAI, tendo investido pelo menos US$…