Após enfrentar diversos processos judiciais devido ao seu impacto negativo na saúde mental de adolescentes, a plataforma Character.AI proibiu menores de idade de interagirem com seus chats públicos. Em vez disso, o serviço lançou o recurso “Histórias” para esses usuários, que, diferentemente dos chats comuns, oferece uma aventura virtual estruturada com personagens de IA.
Fonte da imagem: Character.AI
O formato “História” está disponível para todos os usuários do Character.AI, mas os desenvolvedores o posicionam especificamente como uma forma de “aprimorar” a experiência de interação com personagens de IA para menores de idade. No mês passado, o Character.AI anunciou que os chats seriam fechados para adolescentes a partir de 25 de novembro. Simultaneamente, os desenvolvedores anunciaram o lançamento iminente de um recurso de verificação de idade que direcionará automaticamente menores para chats de IA “mais conservadores”.
Essas medidas foram tomadas após o Character.AI ser processado por contribuir para o suicídio de um adolescente. O autor da ação alega que as interações de menores com personagens de IA também prejudicam sua saúde mental.
O novo formato “História” funciona da seguinte forma: o usuário pode selecionar dois ou três personagens, escolher um gênero e, em seguida, escrever uma descrição da trama ou deixar que o algoritmo de IA faça isso. A plataforma então gera uma “narrativa guiada”, na qual o usuário frequentemente terá opções para alterar o rumo da história. As histórias também utilizam imagens geradas por IA, e os desenvolvedores planejam adicionar “elementos multimodais mais diversos” no futuro.