TikTok anunciou o lançamento de um novo sistema automático de marcação de conteúdo. Se o conteúdo foi gerado usando IA, esses vídeos serão marcados com um rótulo especial. Isso afetará tanto materiais criados diretamente no TikTok usando ferramentas de inteligência artificial, quanto baixados de outros serviços, como OpenAI.
Fonte da imagem: Copiloto
A rotulagem será feita usando a tecnologia Content Credentials da Coalition for Content Provenance and Authenticity (C2PA). Este sistema anexa metadados especiais aos arquivos que permitem determinar claramente que o conteúdo foi criado com a participação da IA. Graças à integração de credenciais de conteúdo do TikTok, os vídeos qualificados receberão automaticamente a tag “AI-Generated”.
De acordo com o chefe de operações, confiança e segurança da TikTok, Adam Presser, a inovação foi projetada para aumentar a transparência para os usuários e ajudá-los a distinguir o conteúdo de IA do conteúdo normal. Além disso, a empresa espera que a rotulagem automática alivie parte da pressão sobre os próprios autores para divulgarem o uso de ferramentas de IA.
A empresa destaca que é a primeira plataforma de vídeo a implementar Credenciais de Conteúdo. Anteriormente, Microsoft, Adobe e OpenAI anunciaram suporte para esta tecnologia. Espera-se que o Google se junte a eles em breve.
O TikTok também prometeu combater ativamente o uso de ferramentas de IA para criar vídeos falsos e enganosos, especialmente no contexto de eleições. A empresa lembrou que sua política proíbe terminantemente esse tipo de conteúdo, independentemente da presença do rótulo.
Globalmente, o novo sistema de etiquetagem automática parece promissor e não só ajudará a melhorar a transparência, mas também identificará conteúdos potencialmente perigosos gerados por redes neurais.