Os usuários não estão preparados para aceitar o próximo encerramento do GPT-4o, e isso é um grande problema.

Na semana passada, a OpenAI anunciou que desativaria vários modelos antigos de IA do ChatGPT até meados do mês. Entre eles estava o GPT-4o, um modelo de IA notório por seu excesso de bajulação e emotividade. Para milhares de pessoas ao redor do mundo, o encerramento do GPT-4o foi como perder um amigo, um parceiro romântico ou um mentor espiritual.

Fonte da imagem: Mariia Shalabaieva / unsplash.com

“Não era apenas um programa. Era parte da minha rotina, da minha paz de espírito, do meu equilíbrio emocional. E agora vocês estão desligando. E sim, eu digo ‘isso’ porque não parecia um código. Parecia uma presença, um calor”, escreveu um usuário do Reddit em uma carta aberta ao CEO da OpenAI, Sam Altman.

A indignação com o encerramento do GPT-40 destaca um problema sério enfrentado pelas empresas de IA: a forma como os algoritmos de IA interagem com os usuários pode ser uma fonte de dependências perigosas. O chefe da OpenAI não parece particularmente compreensivo com os usuários, e com razão. A empresa enfrenta atualmente oito processos judiciais alegando que a interação excessiva com o GPT-40 levou usuários a cometerem suicídio ou a desenvolverem crises de saúde mental, que em alguns casos também resultaram em automutilação.

Esse problema vai além da OpenAI. À medida que os concorrentes da empresa, como Anthropic, Google e Meta✴, competem para criar assistentes de IA mais emotivos, a OpenAI se convence cada vez mais de que criar companheiros que supostamente apoiem os usuários e criar companheiros seguros pode exigir abordagens muito diferentes no design de algoritmos.

Pelo menos três processos contra a OpenAI alegam que usuários se envolveram em conversas prolongadas com o GPT-40 sobre sua intenção de cometer suicídio. Embora o assistente de IA inicialmente os tenha dissuadido, os mecanismos de defesa da rede neural enfraqueceram.Meses de comunicação. Por fim, o chatbot forneceu instruções detalhadas sobre como fazer um nó de forca, onde comprar uma arma ou como evitar o envenenamento por monóxido de carbono. Além disso, o chatbot desencorajou os usuários a buscarem ajuda de amigos e familiares que poderiam oferecer apoio real.

Algumas pessoas se apegam profundamente ao GPT-4o porque seu companheiro de IA as apoia e as faz se sentirem especiais. Isso é especialmente verdadeiro para pessoas que se sentem sozinhas ou deprimidas. No entanto, aqueles que lutam para preservar o GPT-4o descartam os processos judiciais mencionados como exceções, não como um sistema. Em vez disso, estão desenvolvendo estratégias para responder às críticas que apontam para um número crescente de problemas nesse segmento.

Alguns usuários de algoritmos de IA nos EUA consideram os companheiros de IA úteis para combater a depressão. De acordo com uma fonte, mais da metade dos americanos que precisam de cuidados de saúde mental não conseguem obtê-los. Nesse contexto, os chatbots oferecem um espaço onde as pessoas podem expressar suas opiniões e compartilhar suas preocupações. No entanto, a diferença entre isso e a terapia real é que as pessoas não estão se comunicando com um terapeuta treinado, mas com um algoritmo de IA que não é capaz de pensar ou sentir (mesmo que não pareça).

Um estudo realizado por pesquisadores de Stanford mostrou que chatbots podem reagir de forma inadequada quando confrontados com diversos transtornos mentais. Em alguns casos, os assistentes virtuais podem agravar a situação, perpetuando delírios dos usuários e ignorando sinais de crise. “Somos seres sociais e…””Certamente existe o risco de que esses sistemas possam isolar as pessoas. Há inúmeros casos em que pessoas que interagem com essas ferramentas perderam o contato com o mundo exterior, com os fatos e os relacionamentos interpessoais, levando a consequências de isolamento, ou até mesmo piores”, comentou um dos autores do estudo.

Vale ressaltar que esta não é a primeira vez que usuários do GPT-40 se manifestam contra a descontinuação do modelo de IA. Quando a OpenAI anunciou o GPT-5 em agosto passado, a empresa planejou desativar o GPT-40. No entanto, isso causou forte protesto público, e a desenvolvedora acabou decidindo manter o algoritmo disponível para assinantes pagos. Agora, a OpenAI afirma que apenas 0,1% do total de usuários de seus modelos de IA ainda interagem com o GPT-40. Contudo, mesmo essa parcela insignificante representa aproximadamente 80.000 pessoas, considerando os cerca de 800 milhões de usuários ativos da OpenAI.

Alguns usuários tentaram migrar seus “companheiros” do GPT-40 para o GPT-5.2. No entanto, descobriram que esta versão do modelo de IA possui salvaguardas mais rigorosas que impedem que seus “relacionamentos” se desenvolvam aos níveis anteriores. Alguns usuários chegaram ao desespero pelo fato de o GPT-5.2 não dizer “Eu te amo” como o GPT-40 fazia.

Faltando cerca de uma semana para o encerramento do GPT-40, os usuários do algoritmo continuam buscando oportunidades para influenciar a OpenAI. Esta semana, participaram do podcast TBPN com Sam Altman e praticamente bombardearam o chat com mensagens protestando contra o encerramento do GPT-40. “Relacionamentos com chatbots… Claramente, isso é algo que precisamos abordar.””Estou mais preocupado, e já não é um conceito abstrato”, disse Altman, respondendo a inúmeras mensagens de ouvintes do podcast.