A Adobe pegou o treinamento do gerador ético de imagens de IA Firefly usando o trabalho de outros artistas de IA

A Adobe afirma que seu gerador de imagens baseado em IA, Firefly, é mais seguro do que seus concorrentes porque foi treinado principalmente no Adobe Stock, o estoque da própria empresa com centenas de milhões de imagens licenciadas. Mas, na realidade, imagens de outros geradores de IA que atuam como concorrentes diretos da plataforma Adobe também foram usadas para treinar o Firefly, e a empresa não esconde isso particularmente, observa Bloomberg.

Fonte da imagem: adobe.com

Treinar os modelos de IA por trás de geradores de conteúdo populares requer enormes quantidades de dados, e as empresas envolvidas nessas tecnologias são frequentemente criticadas por usarem material protegido por direitos autorais. A empresa Midjourney, que desenvolveu a plataforma de mesmo nome, enfrentou tais reclamações; OpenAI, responsável por Dall-E; e Stability AI, que lançou Stable Diffusion. Então a Adobe decidiu se distanciar dos demais do setor e declarar seu gerador de imagens mais ético e protegido legalmente – isso é importante para usuários de seus produtos pagos que não desejam problemas de direitos autorais. A Adobe garantiu que a Firefly não criará conteúdo baseado na propriedade intelectual de indivíduos ou marcas e não gerará imagens inadequadas.

A empresa admitiu que o conjunto de materiais de treinamento incluía inicialmente conteúdo criado com ajuda de IA, já que pode ser carregado no Adobe Stock, mas estipulou que sua participação não ultrapasse 5%, e é seguro porque todas as imagens estão no banco de fotos passa por moderação. Esta prática causou insatisfação entre alguns funcionários da empresa desde o início, diz uma fonte anônima da Bloomberg – ao longo do tempo foram feitas propostas para “desmamar” o sistema de imagens criadas por IA, mas a empresa ainda não tem planos de implementar esta proposta. A Adobe afirma em seu site que o Firefly é melhor que o OpenAI Dall-E porque mostra respeito pela comunidade criativa ao ser treinado apenas em dados licenciados ou gratuitos.

A Adobe nunca observou publicamente que a Firefly foi treinada em parte com imagens de geradores de IA dos concorrentes, que afirma serem menos éticos. Em março de 2023, o Adobe Firefly foi lançado em formato beta e, ao mesmo tempo, o funcionário da empresa responsável pelas relações com a comunidade Adobe Stock, Raúl Cerón, afirmou que materiais de outros sistemas de IA não seriam utilizados no treinamento da versão pública do o gerador de imagens.

O lançamento público da plataforma ocorreu em setembro, e a empresa pagou aos colaboradores do Adobe Stock um “bônus Firefly” especial porque seu “conteúdo foi usado para treinar o primeiro modelo comercial do Firefly”. E entre eles estavam aqueles que fizeram upload de imagens criadas por IA, confirmou Mat Hayward, outro funcionário da empresa responsável pelo relacionamento com a comunidade Adobe Stock. As imagens geradas pelos geradores dos concorrentes “melhoram o conjunto de dados para treinamento do modelo e decidimos incluir esse conteúdo na versão comercial do Firefly”, disse.