Character.AI e Google chegam a um acordo em processos judiciais relacionados a suicídios de adolescentes após interação com inteligência artificial.

A Character.AI e o Google chegaram a um acordo com as famílias de adolescentes que as processaram após se automutilarem ou cometerem suicídio depois de interagirem com chatbots da Character.AI.

Fonte da imagem: Wesley Tingey / unsplash.com

Os detalhes do acordo ainda são desconhecidos. As partes notificaram um tribunal federal na Flórida de que chegaram a um “acordo de princípio, com a participação de um mediador, para resolver todas as reivindicações” e solicitaram a suspensão do processo para que pudessem firmar um acordo final.

Entre os processos suspensos está o caso de grande repercussão de Megan Garcia, que alegou em 2024 que seu filho de 16 anos, Sewell Setzer, foi levado ao suicídio por um chatbot com temática de Game of Thrones; o adolescente havia desenvolvido um “vício” no personagem baseado em inteligência artificial. A autora da ação argumentou que o Google deveria ser considerado cocriador do serviço, pois a gigante das buscas “contribuiu com recursos financeiros, pessoal, propriedade intelectual e tecnologia de IA” para o serviço, que foi lançado por ex-funcionários do Google que foram posteriormente recontratados pela empresa.

Após o processo judicial, a Character.AI anunciou mudanças em seu chatbot para proteger os usuários: para menores de 18 anos, a empresa integrou um modelo de linguagem separado e mais abrangente, introduziu restrições de conteúdo rigorosas e adicionou recursos de controle parental. Posteriormente, a participação em chats abertos com os personagens foi completamente bloqueada para menores.

As duas empresas também chegaram a acordos com os demandantes em processos movidos no Colorado, Nova York e Texas. Os acordos ainda precisam ser finalizados e homologados pelo tribunal.