Foram descobertas referências no código do iOS 27 da Apple indicando que a assistente virtual Siri, atualizada, irá sugerir aos usuários que façam uma pausa caso suas conversas se prolonguem demais.
Especialistas acreditam que um dos perigos representados pelos chatbots de IA é o apego excessivo que alguns usuários podem desenvolver por eles, bem como interações prolongadas como se fossem pessoas reais. Em alguns casos, os usuários podem desenvolver “psicose por IA”, crenças delirantes ou agravar problemas de saúde mental preexistentes — tudo isso podendo desencadear interações prolongadas com um chatbot.
Desenvolvedores experientes de serviços de IA, incluindo OpenAI, Anthropic e Google, já começaram a implementar medidas de segurança, lembrando os usuários das limitações de seus assistentes virtuais e incentivando o uso responsável. Durante longas sessões de bate-papo, o ChatGPT da OpenAI e o Claude da Anthropic sugerem fazer uma pausa, beber água ou se desconectar do computador. Durante a apresentação da Siri na WWDC, a Apple abordou diversas questões de privacidade e responsabilidade, mas não mencionou conversas prolongadas.
No entanto, foram descobertas linhas de código na versão beta do iOS 27 da Apple que podem conter uma mensagem ao usuário, incentivando-o a fazer uma pausa caso uma conversa esteja demorando muito; o usuário também é lembrado de que a Siri não é humana. Esses eventos não são programados; os alertas serão acionados com base em múltiplos sinais. A Apple não confirmou oficialmente a disponibilidade desse recurso nem revelou exatamente como ele funcionará. Contudo, é evidente que a empresa decidiu abordar o lançamento desse novo serviço com a máxima responsabilidade.