Midjourney lançará uma ferramenta baseada na web que pode editar qualquer imagem usando IA generativa. O novo produto permitirá, mantendo a forma dos objetos editados, alterar suas texturas, cores e outros detalhes dependendo das solicitações de texto do usuário. Isto abre a porta não apenas para maiores possibilidades criativas, mas também para possíveis abusos.
Fonte da imagem: MidJourney
Na semana passada, o CEO da empresa, David Holtz, postou detalhes sobre o novo editor de imagens de IA no servidor Midjourney Discord. A nova ferramenta permitirá aos usuários baixar imagens da Internet e usar os mais recentes avanços na tecnologia de IA para editá-las. “Ele preserva o formato da cena e dos objetos, mas redesenha todas as texturas, cores e detalhes de acordo com sua solicitação”, explicou Holtz.
Fonte da imagem: Midjourney/Discord
O surgimento de tal ferramenta abre grandes oportunidades para os usuários criarem, mas também levanta sérias questões sobre abusos. Por exemplo, a ferramenta poderia ser usada para criar deepfakes ou violações de direitos autorais em massa. Embora os EUA ainda não tenham uma lei federal que criminalize a criação de deepfakes, pelo menos uma dúzia de estados já aprovaram leis anti-imitação de IA, e muitos mais estão a considerar seguir o exemplo.
Holtz está ciente dos riscos associados ao potencial uso indevido da nova ferramenta e disse que o acesso ao serviço será inicialmente limitado a um pequeno número de usuários. A Midjourney desenvolve sistemas de monitoramento que incorporam supervisão humana e IA para minimizar possíveis violações. No entanto, os mecanismos específicos para implementação destas restrições ainda não foram determinados e a empresa está a recolher feedback dos utilizadores para decidir quem deve ter acesso antecipado à ferramenta.
Deve-se enfatizar que a Midjourney já implementou padrões de metadados IPTC Digital Source Type para permitir a rotulagem de imagens geradas por IA. No entanto, a empresa ainda está atrás de outros líderes de mercado, como a Adobe, que utilizam tecnologias mais avançadas de rastreamento de proveniência de imagens, como o padrão C2PA. Essa tecnologia permite rastrear o histórico completo de edição de uma imagem, o que aumenta significativamente a transparência e a responsabilidade no processo de sua criação e processamento.
Em agosto deste ano, a Midjourney também lançou um site atualizado que permite a qualquer pessoa criar imagens usando IA, registrando-se com uma conta do Google. É fornecido um período inicial de teste gratuito, após o qual os usuários podem se inscrever para uma assinatura paga para continuar usando o serviço de geração de imagens continuamente.