Meta revelou os princípios dos algoritmos de recomendação que constroem feeds no Facebook e Instagram

A Meta* forneceu uma análise detalhada de seus algoritmos de mídia social para explicar o processo de recomendação de conteúdo para usuários do Instagram* e do Facebook*. O presidente de assuntos globais da empresa, Nick Clegg, disse que as divulgações sobre os sistemas de IA por trás dos algoritmos fazem parte do “amplo princípio ético de abertura, transparência e responsabilidade” da empresa. Ele também falou sobre o que os usuários do Facebook* e Instagram* podem fazer para controlar melhor o conteúdo que veem nas plataformas.

Fonte da imagem: Pixabay

«Dado o rápido desenvolvimento de tecnologias poderosas, como IA generativa, é compreensível que as pessoas as percebam com entusiasmo e preocupação. Acreditamos que a melhor maneira de abordar essas preocupações é por meio da abertura”, Clegg escreveu em um post de blog.

A maioria das informações publicadas está contida em 22 “mapas do sistema” que abrangem Feed, Stories, Reels e outras formas pelas quais as pessoas encontram e consomem conteúdo nas plataformas sociais Facebook* e Instagram*. Cada um desses cartões fornece informações detalhadas sobre como os sistemas de IA por trás desses recursos classificam e recomendam o conteúdo.

Por exemplo, uma visão geral do recurso “Explorar” do Instagram*, que mostra aos usuários fotos e vídeos de contas que eles não seguem, explica o processo de três etapas de um mecanismo automatizado de recomendação de IA.

Coleta de inventário: o sistema coleta conteúdo público do Instagram*, como fotos e vídeos que estejam em conformidade com as políticas da empresa.

Uso de sinais: o sistema de IA leva em consideração como os usuários interagiram com conteúdos ou interesses semelhantes, também conhecidos como “inputs”.

Classificação do conteúdo: por fim, a IA classifica o conteúdo da etapa anterior, destacando o conteúdo que supostamente é mais interessante para o usuário na guia Explorar.

A presença de cartões do sistema sugere que os usuários do Instagram* podem influenciar esse processo salvando o conteúdo (ou seja, informando diretamente ao sistema para mostrar algo assim) ou marcando-o como “não estou interessado” para incentivar o sistema a filtrar conteúdo semelhante no futuro . Os usuários também podem ver vídeos e fotos que não foram especificamente selecionados para eles pelo algoritmo selecionando “Não personalizado” no filtro “Explorar”. Mais informações sobre modelos preditivos de IA, as entradas usadas para conduzi-los e com que frequência eles são usados ​​para classificar o conteúdo estão disponíveis no Transparency Center.

Juntamente com os mapas do sistema, são mencionados vários outros recursos do Instagram* e do Facebook* que podem informar aos usuários por que eles veem determinado conteúdo e como podem personalizar suas recomendações. Nas próximas semanas, a Meta* expandirá a seção “Por que estou vendo isso?” para Facebook* Reels, Instagram* Reels e a guia Explorar no Instagram*. Isso permitirá que os usuários cliquem em um vídeo individual para ver como sua atividade anterior pode ter afetado esse vídeo. O Instagram* também está testando um novo recurso de Reels que permitirá aos usuários marcar vídeos recomendados com uma tag “Interessado” para ver conteúdo semelhante no futuro. A capacidade de marcar o conteúdo como “Não tenho interesse” está disponível a partir de 2021.

A Meta* também anunciou que começará a lançar sua biblioteca de conteúdo e API nas próximas semanas, um novo kit de ferramentas para pesquisadores que conterá uma grande quantidade de dados públicos do Instagram* e do Facebook*. Os dados dessa biblioteca podem ser pesquisados, explorados e filtrados, e os pesquisadores podem se inscrever para acessar essas ferramentas por meio de parceiros aprovados, começando com o Consórcio Intercolegial para Pesquisa Política e Social (ICPSR) da Universidade de Michigan. A Meta* afirma que essas ferramentas fornecerão “o acesso mais abrangente ao conteúdo disponível publicamente no Facebook* e Instagram* a partir de qualquer ferramenta de pesquisa que construímos”, ajudando a empresa a cumprir seu compromisso com o compartilhamento e abertura de dados.

O compromisso da Meta* com a abertura talvez seja um fator importante para explicar como ela usa IA para moldar o conteúdo. O desenvolvimento explosivo da tecnologia de IA e sua popularidade atraíram a atenção de reguladores em todo o mundo, que expressaram preocupação sobre como esses sistemas coletam, gerenciam e usam os dados pessoais dos usuários. Os algoritmos da Meta* não são novos, mas a maneira como a empresa usou os dados do usuário durante o escândalo da Cambridge Analytica, bem como sua resposta aos esforços de abertura do TikTok, motiva a Meta* a se comunicar mais com os usuários.

Em conclusão, vale a pena notar que a importância da transparência e abertura no trabalho com algoritmos de IA e redes sociais está se tornando cada vez mais óbvia. A Meta* está dando um passo nessa direção ao fornecer aos usuários e pesquisadores mais informações sobre como seus sistemas funcionam. Isso não apenas melhora a compreensão de como o conteúdo é gerado, mas também promove o uso responsável dos dados do usuário.

* Está incluída no rol de associações públicas e entidades religiosas em relação às quais o tribunal tenha proferido decisão que entrou em vigor para liquidar ou proibir atividades com base na Lei Federal nº 114-FZ, de 25 de julho de 2002 “Sobre o combate à atividade extremista”.