A OpenAI detalhou planos para corrigir as falhas do ChatGPT ao lidar com “situações delicadas”, um problema que a empresa abordou após ser processada pela família de um adolescente que cometeu suicídio.
Fonte da imagem: Mariia Shalabaieva / unsplash.com
«“Continuaremos a aprimorar [o ChatGPT] com base em consultoria especializada e em nossa responsabilidade com as pessoas que usam nossas ferramentas, e esperamos que outros se juntem a nós para garantir que esta tecnologia proteja as pessoas quando elas estiverem mais vulneráveis”, prometeu a empresa em um blog corporativo. No dia anterior, a OpenAI foi processada pelos pais de Adam Raine, de 16 anos, que cometeu suicídio; os autores alegam que “o ChatGPT ajudou ativamente Adam a aprender como cometer suicídio”. A OpenAI explicou que o ChatGPT é treinado para oferecer ajuda a pessoas que expressam intenções perigosas. Mas, em correspondências de longo prazo, esse recurso pode começar a funcionar mal, e o chatbot às vezes fornece respostas que contradizem as políticas de segurança da empresa.
A desenvolvedora falou sobre a próxima atualização do modelo principal GPT-5, com a qual o chatbot aprenderá a reduzir a intensidade das discussões. Além disso, a empresa está explorando a possibilidade de transferir os usuários para “psicoterapeutas certificados antes que a crise se agrave” – a opção de formar um grupo de especialistas com quem os usuários possam entrar em contato diretamente pelo ChatGPT não está descartada. A OpenAI também prometeu adicionar controles que ajudarão os pais a entender melhor como seus filhos usam o ChatGPT. De acordo com seu advogado, a empresa não tentou entrar em contato com membros da família de Rain – ninguém expressou condolências ou desejo de discutir o trabalho para melhorar a segurança dos produtos da empresa.
Houve outros casos de suicídio entre usuários do ChatGPT, segundo a CNBC. À medida que os serviços de inteligência artificial continuam a crescer em popularidade, crescem as preocupações sobre seu uso para terapia, comunicação e outras necessidades sociais.
Como especialistas do setor têm observado repetidamente, muitas startups chinesas de IA são forçadas a…
Pesquisadores da École Polytechnique Fédérale de Lausanne (EPFL) revelaram uma mão robótica inspirada em cenas…
A Comissão Federal de Comércio dos EUA (FTC) anunciou que irá recorrer da decisão de…
Segundo desenvolvedores de serviços de IA, sua implementação no processamento de dados deveria melhorar a…
A SpaceX, empresa espacial de Elon Musk, não inspecionou adequadamente um guindaste hidráulico que havia…
Graças a desenvolvedores alemães, o radiotelescópio mais potente do mundo, o Atacama Large Millimeter Array…