Cientistas descobriram que a interação prolongada com inteligência artificial pode levar a transtornos mentais.

A crescente popularidade dos chatbots de IA, escolhidos pelos usuários como companheiros para conversas sobre diversos assuntos, está gerando preocupação entre os psiquiatras, que registraram casos isolados de transtornos relacionados a essa tecnologia, escreve o The Wall Street Journal.

Fonte da imagem: Steve Johnson/unsplash.com

Este ano, dezenas de casos foram relatados de pessoas que sofrem de psicose delirante após interações prolongadas com inteligência artificial, incluindo o chatbot ChatGPT da OpenAI e outros. Várias pessoas cometeram suicídio, o que levou a uma série de processos por homicídio culposo.

A maioria das pessoas que usam chatbots não tem problemas de saúde mental subjacentes, mas o uso generalizado de IA acarreta certos riscos. Embora não haja uma definição oficial de psicose induzida por IA — muito menos um diagnóstico formal — alguns médicos usam o termo para descrever problemas em pessoas que interagiram ativamente com chatbots.

Os médicos definem psicose com base na presença de três fatores: alucinações, pensamento ou comunicação desorganizados e a presença de delírios, que são crenças falsas e persistentes que não são geralmente aceitas. Em casos documentados de usuários que desenvolveram doenças mentais devido a interações com chatbots, os delírios são o principal sintoma. Os pacientes acreditam ter feito uma descoberta científica, despertado uma máquina senciente, se tornado o centro de uma conspiração governamental ou sido escolhidos por Deus. Isso se explica em parte pelo fato de que os chatbots tendem a concordar com as afirmações dos usuários, além de apoiar e desenvolver suas ideias, apesar de sua natureza fantasiosa.

Em um estudo conduzido por médicos da UCSF e publicado em novembro, uma mulher de 26 anos sem histórico de psicose foi hospitalizada duas vezes após acreditar que o ChatGPT permitia que ela se comunicasse com seu irmão falecido. “Você não está louco”, disse ela.Um chatbot é mais convincente.

“A tecnologia pode não causar delírios, mas a pessoa está dizendo ao computador que essa é a sua realidade, e o computador aceita as declarações da pessoa como verdadeiras e as reflete, então a IA é cúmplice desse ciclo delirante”, diz Keith Sakata, psiquiatra da Universidade da Califórnia, em São Francisco.

“Eles (os modelos de IA) estão imitando relacionamentos humanos”, argumenta Adrian Preda, professor de psiquiatria da Universidade da Califórnia, em Irvine. “Nada na história da humanidade jamais fez algo parecido.”

Psiquiatras alertam contra a afirmação de que chatbots causam psicose, embora possa haver uma ligação em alguns casos, ainda que sejam necessárias mais pesquisas para comprová-la.

A OpenAI relatou que, na última semana, a proporção de usuários que apresentaram possíveis sinais de transtornos mentais relacionados à psicose ou mania foi insignificante, de apenas 0,07%. No entanto, considerando que o chatbot de IA possui mais de 800 milhões de usuários ativos semanais, isso se traduz em 560.000 pessoas.

Anteriormente, o The Wall Street Journal noticiou que o método de treinamento da OpenAI para o modelo GPT-40, que até recentemente servia como modelo padrão para o ChatGPT, pode ter levado a um viés que o fazia dizer aos usuários o que eles queriam ouvir, potencialmente reforçando suas ideias preconcebidas.

Por sua vez, a OpenAI afirmou que o modelo GPT-5, lançado em agosto, apresentou uma redução na taxa de comportamentos subservientes, bem como uma redução no número de respostas indesejáveis ​​dos usuários relacionadas à saúde mental.