Os pais poderão limitar as interações dos filhos com personagens de IA no Instagram.

A Meta✴ está desenvolvendo novas ferramentas de controle parental para ajudar a restringir as interações de menores com os chatbots com inteligência artificial que incorporam personagens virtuais e operam nas plataformas de mídia social da empresa. A Meta✴AI, a principal assistente da empresa, permanecerá disponível como antes.

Fonte da imagem: Meta✴

Se os pais não quiserem bloquear todos os chatbots de IA para seus filhos, eles podem desativar chatbots individuais. Eles também poderão receber informações sobre os tópicos discutidos por seus filhos com os chatbots da Meta✴. A empresa ainda está desenvolvendo esses recursos de controle e começará a implementá-los no próximo ano no segmento em inglês do Instagram✴ nos EUA, Reino Unido, Canadá e Austrália.

A Meta✴ tomou essa medida após enfrentar críticas pela liberdade excessiva que dava aos seus chatbots de IA, incluindo a capacidade de se envolver em conversas delicadas com menores. O incidente repercutiu politicamente, e a Meta✴ foi forçada a retreinar sua IA e adicionar novas salvaguardas para impedir que usuários menores de idade se envolvessem em conversas inapropriadas. Ela introduziu restrições de idade nas mídias sociais, permitindo que os chatbots de IA fornecessem apenas respostas que correspondessem à classificação indicativa PG-13 de filmes e limitando os adolescentes a personagens que focassem em tópicos apropriados para a idade.