O Instagram protegerá adolescentes de IA e conteúdo adulto – o filtro PG-13 agora está ativado por padrão.

Alegando a necessidade de proteger usuários menores de idade de conteúdo nocivo, o Instagram está introduzindo novas restrições para contas de adolescentes. Usuários menores de 18 anos agora verão apenas conteúdo com classificação indicativa PG-13 por padrão. Assuntos como violência extrema, nudez sexual e uso de drogas não estarão disponíveis. Eles não poderão alterar essa configuração sem a permissão explícita de um dos pais ou responsável.

Fonte da imagem: unsplash.com

O Instagram está introduzindo um filtro de conteúdo mais rigoroso, chamado “Conteúdo Restrito”, que impedirá que adolescentes visualizem e comentem postagens com essa configuração. A partir do próximo ano, a empresa introduzirá restrições adicionais para adolescentes em chats com bots de IA que tenham o filtro “Conteúdo Restrito” ativado. As novas configurações de classificação indicativa PG-13 já se aplicam a conversas com IA.

Essa medida ocorre em resposta a processos judiciais contra criadores de chatbots como OpenAI e Character.AI por supostamente prejudicarem usuários. No mês passado, a OpenAI introduziu novas restrições para usuários do ChatGPT menores de 18 anos e declarou que estava treinando o chatbot para se abster de “conversas de flerte”. No início deste ano, a Character.AI também adicionou novas restrições e recursos de controle parental.

O Instagram está desenvolvendo ferramentas para manter os adolescentes seguros em contas, mensagens diretas, buscas e conteúdo. A empresa está expandindo consistentemente os controles e restrições em diversas áreas para usuários menores de idade. A rede social impedirá que adolescentes sigam contas que publiquem conteúdo impróprio para sua idade. Se seguirem essas contas, não poderão ver ou interagir com suas postagens. A empresa também remove essas contas das recomendações, dificultando sua localização.

O Instagram está impedindo que adolescentes visualizem conteúdo impróprio em mensagens diretas. A empresa já proíbe menores de encontrar conteúdo relacionado a transtornos alimentares e automutilação.Palavras como “álcool” e “sangrento” são bloqueadas em conteúdo direcionado a adolescentes. Além disso, esse conteúdo não pode ser encontrado por meio de erros ortográficos ou erros ortográficos intencionais.

O Instagram está testando novos controles que permitem aos pais sinalizar conteúdo que não deve ser recomendado para adolescentes. As postagens sinalizadas serão enviadas ao departamento apropriado para análise.

Todas essas mudanças entrarão em vigor nos EUA, Reino Unido, Austrália e Canadá a partir de hoje, e globalmente no próximo ano.