A OpenAI detalhou planos para corrigir as falhas do ChatGPT ao lidar com “situações delicadas”, um problema que a empresa abordou após ser processada pela família de um adolescente que cometeu suicídio.
Fonte da imagem: Mariia Shalabaieva / unsplash.com
«“Continuaremos a aprimorar [o ChatGPT] com base em consultoria especializada e em nossa responsabilidade com as pessoas que usam nossas ferramentas, e esperamos que outros se juntem a nós para garantir que esta tecnologia proteja as pessoas quando elas estiverem mais vulneráveis”, prometeu a empresa em um blog corporativo. No dia anterior, a OpenAI foi processada pelos pais de Adam Raine, de 16 anos, que cometeu suicídio; os autores alegam que “o ChatGPT ajudou ativamente Adam a aprender como cometer suicídio”. A OpenAI explicou que o ChatGPT é treinado para oferecer ajuda a pessoas que expressam intenções perigosas. Mas, em correspondências de longo prazo, esse recurso pode começar a funcionar mal, e o chatbot às vezes fornece respostas que contradizem as políticas de segurança da empresa.
A desenvolvedora falou sobre a próxima atualização do modelo principal GPT-5, com a qual o chatbot aprenderá a reduzir a intensidade das discussões. Além disso, a empresa está explorando a possibilidade de transferir os usuários para “psicoterapeutas certificados antes que a crise se agrave” – a opção de formar um grupo de especialistas com quem os usuários possam entrar em contato diretamente pelo ChatGPT não está descartada. A OpenAI também prometeu adicionar controles que ajudarão os pais a entender melhor como seus filhos usam o ChatGPT. De acordo com seu advogado, a empresa não tentou entrar em contato com membros da família de Rain – ninguém expressou condolências ou desejo de discutir o trabalho para melhorar a segurança dos produtos da empresa.
Houve outros casos de suicídio entre usuários do ChatGPT, segundo a CNBC. À medida que os serviços de inteligência artificial continuam a crescer em popularidade, crescem as preocupações sobre seu uso para terapia, comunicação e outras necessidades sociais.
A editora Dotemu (Ninja Gaiden: Ragebound, Marvel Cosmic Invasion) e a Triskell Interactive, desenvolvedora de…
A Alphabet não é apenas uma das maiores empresas do mercado de serviços em nuvem,…
Cristiano Amon, CEO da Qualcomm, apresentou a plataforma robótica Dragonwing IQ10 atualizada na Computex 2026.…
A editora DreadXP e o estúdio britânico Lovely Hellplace (Dread Delusion) anunciaram a data de…
A Apple se esforça para oferecer aos clientes inovações que melhorem seu dia a dia,…
A estreia de ontem da plataforma RTX Spark da Nvidia para PCs com Windows gerou…