A Microsoft escolheu seu próprio formato para rotular imagens criadas com inteligência artificial: “marcas d’água” sobrepostas às imagens dos aplicativos Paint e Fotos contêm informações que podem identificar o usuário que enviou a solicitação à IA.
Fonte da imagem: BoliviaInteligente / unsplash.com
A rotulagem foi introduzida em conformidade com as novas regulamentações de transparência da UE. Estas exigem que o conteúdo gerado por IA seja rotulado em um formato legível por máquina e que os metadados associados indiquem, no mínimo, se o conteúdo foi processado por IA ou se foi totalmente gerado por ela. Métodos específicos não são definidos, e a Microsoft decidiu expandir esse escopo de informações. Como membro fundador da Coalition for Content Origin and Authenticity (C2PA), a empresa decidiu implementar a rotulagem no Paint e no app Fotos, indicando o identificador único global (GUID) associado à consulta que gerou a imagem.
A marca d’água GUID invisível é um inteiro de 16 bytes, distinto da marca d’água visível que a Microsoft fornece aos usuários do Paint e dos recursos de IA do Microsoft 365. Conhecer o GUID associado a uma imagem permite que a empresa identifique o usuário que enviou a solicitação. Notavelmente, ao solicitar a geração, o Paint também envia o valor do promptGenerationId anterior, o que significa que a Microsoft pode vincular sequências de solicitações.
A Anthropic, a OpenAI e o Google já implementaram a rotulagem de conteúdo por IA em resposta a solicitações de IA. Somente modelos com pesos abertos, incluindo o Stable Diffusion, funcionam sem rotulagem; e modelos que são executados localmente nos dispositivos dos usuários, em vez de na nuvem, continuam sendo a maneira mais confiável de preservar a privacidade.