OpenAI aprendeu a reconhecer imagens geradas por sua IA, mas não sem erros

A OpenAI anunciou que começou a desenvolver novos métodos para identificar conteúdo criado por inteligência artificial (IA). Isso inclui um novo classificador de imagens que detecta se uma imagem foi gerada por IA e uma marca d’água resistente a violações que pode marcar o conteúdo de áudio com sinais indetectáveis.

Fonte da imagem: Placidplace / Pixabay

O novo classificador de imagens é capaz de determinar com até 98% de precisão se uma imagem foi criada pelo gerador de imagens DALL-E 3 AI. A empresa afirma que seu classificador funciona mesmo que a imagem tenha sido cortada, compactada ou tenha sua saturação. foi alterado. Ao mesmo tempo, a eficácia deste desenvolvimento OpenAI no reconhecimento de conteúdo criado por outros modelos de IA, como Midjourney, é significativamente menor – de 5 a 10%.

A OpenAI também introduziu marcas d’água para conteúdo de áudio criado usando sua plataforma de conversão de texto em fala Voice Engine, que está em testes de pré-produção. Essas marcas d’água contêm informações sobre o criador e os métodos utilizados para criar o conteúdo, facilitando muito a verificação de sua autenticidade.

A OpenAI está ativamente envolvida na Coalizão de Proveniência e Autenticidade de Conteúdo (C2PA), que também inclui empresas como Microsoft e Adobe. A empresa juntou-se este mês ao comité diretor C2PA, destacando o seu papel no desenvolvimento de padrões de transparência e autenticidade em conteúdo digital.

Para esses fins, a OpenAI integrou as chamadas credenciais de conteúdo C2PA nos metadados de imagem. Essas credenciais, efetivamente marcas d’água, incluem informações sobre o proprietário da imagem e como ela foi criada. A OpenAI vem trabalhando na detecção de conteúdo por IA há anos, mas em 2023 a empresa teve que parar de executar o programa que detecta texto gerado por IA devido à sua baixa precisão.

O desenvolvimento de um classificador de imagens e marca d’água de áudio está em andamento. A OpenAI enfatiza que obter feedback dos usuários é fundamental para avaliar a eficácia dessas ferramentas. Pesquisadores e jornalistas sem fins lucrativos têm a oportunidade de testar o classificador de imagens na plataforma de acesso à pesquisa OpenAI.