A OpenAI está preparando uma versão infantil do ChatGPT e classificará automaticamente os usuários por idade

A OpenAI está desenvolvendo uma “interface infantil do ChatGPT” e planeja usar tecnologia de previsão de idade para impedir que crianças e adolescentes menores de 18 anos acessem a versão padrão. A empresa enfatizou que, se suas ferramentas não conseguirem determinar a idade de uma pessoa com segurança, o ChatGPT usará a versão para menores de 18 anos “como precaução”. A OpenAI também acredita que todos os usuários do ChatGPT devem ter mais de 13 anos.

Fonte da imagem: unsplash.com

As pesquisas mais recentes sobre a relação entre humanos e inteligência artificial estão levantando sérias preocupações sobre os riscos à saúde mental de interações prolongadas com chatbots para adolescentes. A OpenAI anunciou recentemente uma importante iniciativa para estabelecer novos limites para adolescentes e pessoas sob estresse emocional. A empresa planeja lançar o recurso até o final do ano.

“Priorizamos a segurança em detrimento da privacidade e da liberdade dos adolescentes; esta é uma tecnologia nova e poderosa, e acreditamos que menores merecem proteções significativas”, disse Sam Altman, CEO da OpenAI. “Alguns dos nossos princípios conflitam entre si, e queremos esclarecer as decisões que estamos tomando sobre o conflito entre segurança, liberdade e privacidade dos adolescentes.”

Fonte da imagem: Fórum OpenAI

A nova interface infantil do ChatGPT coloca grande parte da responsabilidade sobre os pais e responsáveis. Os pais precisarão vincular suas contas aos seus filhos adolescentes enviando um convite. Eles poderão então limitar a forma como o ChatGPT responde aos adolescentes com regras integradas adequadas à idade.

Os pais poderão ativar ou desativar determinados recursos, incluindo a memória e o histórico de bate-papo. Uma vez ativados, eles receberão notificações se “o sistema detectar que o adolescente está em estado de estresse agudo”. O OpenAI permitirá que os pais definam horários de bloqueio quando o adolescente não puder usar o ChatGPT.

O anúncio do OpenAI ocorre poucas horas antes de uma audiência em Washington, D.C., sobre os potenciais danos dos chatbots com tecnologia de IA. Na audiência, um grupo de senadores examinará os riscos que os chatbots representam para os adolescentes. Separadamente, na semana passada, a Comissão Federal de Comércio (FTC) lançou sua própria investigação sobre a segurança dos chatbots, solicitando informações da OpenAI, Meta✴, Google, xAI, Snap e Character.AI.

As empresas de tecnologia geralmente respondem a processos judiciais criando aplicativos especializados para adolescentes e crianças — como o YouTube Kids. Mas o maior obstáculo para usar esses aplicativos é convencer os adolescentes a vincular suas contas às dos pais.

Fonte da imagem: unsplash.com

A OpenAI há muito tempo afirma que todos os usuários do ChatGPT devem ter pelo menos 13 anos. Jovens inteligentes costumam ter muito mais conhecimento de tecnologia do que seus pais e responsáveis ​​e conseguem encontrar facilmente soluções alternativas para acessar os sites e aplicativos de que precisam.