O ChatGPT é uma interface universal para interação com inteligência artificial, por isso até os usuários mais reclusos encontraram nele uma alternativa ao chat ao vivo. De acordo com estatísticas da própria OpenAI, centenas de milhares de pessoas na audiência semanal do ChatGPT apresentam sinais de doença mental, e mais de um milhão já cogitaram suicídio.
Fonte da imagem: OpenAI
No geral, a administração da OpenAI afirma que os serviços da startup são usados semanalmente por aproximadamente 800 milhões de pessoas, ou aproximadamente 10% da população mundial. Como observa o Gizmodo, a empresa publicou estatísticas sobre comportamentos alarmantes entre usuários ativos, incluindo sinais de doença mental, dependência excessiva do chatbot e pensamentos suicidas.
Por exemplo, até 0,07% da audiência semanal do ChatGPT apresenta sinais de psicose e mania de vários tipos, até 0,15% da audiência semanal sofre de tendências suicidas e aproximadamente a mesma proporção é altamente dependente emocionalmente da inteligência artificial. No total, três milhões de pessoas exibem esses traços comportamentais alarmantes, de acordo com os cálculos da fonte.
A própria OpenAI se esforça para evitar provocar essa parcela da audiência a ações socialmente prejudiciais, para as quais consulta 170 especialistas em psiquiatria. Com isso, a startup busca ensinar o ChatGPT a fornecer respostas mais brandas a usuários com sintomas alarmantes, sugerindo que procurem aconselhamento especializado ou passem menos tempo no chatbot. Como resultado, o número de respostas indesejadas nessas situações foi reduzido em 65% a 80%, mas o ChatGPT ainda não encerra a conversa nem bloqueia o acesso desses usuários aos seus recursos.
Até 560.000 usuários do ChatGPT apresentam sinais de psicose e mania semanalmente, em termos absolutos. Esses sinais são observados em 0,01% das mensagens semanais enviadas ao ChatGPT — aproximadamente 1,8 milhão de mensagens, considerando que existem apenas 100.000 delas.Cerca de 18 milhões de mensagens são recebidas semanalmente.
O ChatGPT atrai 1,2 milhão de potenciais suicidas por semana, gerando até 9 milhões de mensagens desse tipo. A dependência excessiva da IA é demonstrada por 1,2 milhão de usuários por semana, que geram 5,4 milhões de mensagens desse tipo. As tentativas da OpenAI de expressar preocupação com essas tendências são alvo de críticas, já que a própria empresa anunciou recentemente suas iniciativas para dar ao seu chatbot uma personalidade mais distinta e usar a IA para gerar conteúdo erótico. É improvável que tais desenvolvimentos tecnológicos contribuam para a saúde mental dos clientes da OpenAI.