Instagram usará IA para identificar adolescentes que escondem idade

O Instagram✴ está introduzindo um novo sistema baseado em inteligência artificial que será capaz de identificar adolescentes que tentam esconder sua idade real. O algoritmo analisará fotos, assinaturas e postagens de amigos para determinar a idade real do usuário.

Fonte da imagem: Luke van Zyl/Unsplash

Segundo a Bloomberg, esta decisão deve-se à pressão de pais e legisladores preocupados com o impacto da plataforma na saúde mental dos adolescentes. Usando uma nova ferramenta de IA chamada classificador Adulto, Meta✴ mudará automaticamente usuários menores de 18 anos para contas com configurações de privacidade mais rígidas, independentemente das informações fornecidas durante o registro.

Anteriormente, Meta✴ já havia começado a transferir usuários para contas de adolescentes com base na idade declarada. No entanto, um novo algoritmo, que será lançado no início do próximo ano, foi concebido para identificar aqueles que estão a tentar contornar as regras. Ao mesmo tempo, os utilizadores com 16 e 17 anos poderão alterar as suas configurações de privacidade de forma independente, mas para os adolescentes com menos de 16 anos será necessário o consentimento dos pais para desativar vários tipos de restrições. A decisão foi bem recebida por especialistas externos, que há muito pedem que a empresa faça mudanças mais significativas para proteger os usuários mais jovens.

Nos últimos anos, a Meta✴ enfrentou inúmeras acusações de que todas as suas plataformas estão contribuindo para a deterioração da saúde mental entre os adolescentes. Em particular, dezenas de procuradores-gerais em diferentes estados dos EUA entraram com uma ação judicial contra a empresa, alegando que a Meta✴ “fisgou” deliberadamente crianças aos seus serviços, o que levou a uma crise de saúde mental entre os adolescentes. A empresa também foi criticada por pais que afirmam que seus filhos morreram devido às drogas ou cometeram suicídio por causa do conteúdo que viram ou das conversas que tiveram usando os produtos Meta✴. Também em 2021, a ex-funcionária da empresa Frances Haugen divulgou documentos internos que mostravam que o Instagram✴ pode afetar negativamente a psique de adolescentes.

Devido a um conjunto tão sério de reivindicações, Meta✴ decidiu complicar o processo de determinação da idade ao indicá-la. Por exemplo, será feita uma correspondência entre o e-mail ou identificador único do dispositivo a partir do qual o adolescente tenta criar uma nova conta. Para confirmar a idade, você também terá que apresentar documentos oficiais ou passar pela verificação por meio de um vídeo selfie usando o aplicativo Yoti, ferramenta de identificação digital de uma pessoa por foto. Em caso de erro será possível interpor recurso, porém essa possibilidade ainda está em desenvolvimento.