Uma equipe de pesquisadores da Universidade de Chicago criou uma ferramenta chamada Nightshade que permite aos artistas proteger seus trabalhos de redes neurais generativas que usam imagens da Internet para treinar. Ele permite adicionar pixels invisíveis ao olho humano às imagens, o que distorce efetivamente os dados para treinar algoritmos de IA.
Fonte da imagem: petapixel.com
O rápido crescimento da popularidade das redes neurais generativas, capazes de criar imagens baseadas em descrições de texto, também levou a numerosos processos judiciais movidos por artistas contemporâneos contra empresas que desenvolvem algoritmos de IA. O fato é que para o treinamento de redes neurais generativas costumam ser utilizadas imagens publicadas em diversos recursos da web. Devido a isso, as redes neurais generativas são capazes de desenhar imagens não piores que as de um ser humano e até copiar os estilos de artistas famosos.
O algoritmo Nightshade foi projetado para ajudar os artistas a proteger suas obras de serem escaneadas por redes neurais. Ele processa imagens de maneira especial e, se posteriormente forem utilizadas para treinar redes neurais, estas perdem a capacidade de processar adequadamente a solicitação do usuário e produzem um resultado incorreto. Na verdade, essa modificação de imagens faz com que as redes neurais reconheçam incorretamente os objetos nelas representados. Por exemplo, onde os chapéus são desenhados, o algoritmo reconhece bolos e as sacolas são reconhecidas como torradeiras. Os dados danificados dessa forma são muito difíceis de remover, uma vez que os desenvolvedores de algoritmos generativos terão que encontrar meticulosamente cada fragmento manualmente.
Artistas que desejam compartilhar seu trabalho online, mas também protegê-lo, podem usar o Nightshade em combinação com outra ferramenta chamada Glaze (desenvolvida pelo mesmo grupo de pesquisadores e projetada para modificar imagens de tal forma que a rede neural não consiga treinar efetivamente com a ajuda deles). Segundo relatos, Nightshade e Glaze estarão disponíveis gratuitamente para uso, e o primeiro será de código aberto, permitindo que outros desenvolvedores o melhorem.
A montadora japonesa Honda Motor anunciou seu primeiro prejuízo operacional desde sua abertura de capital…
Os rumores sobre o lançamento iminente da pré-venda do ambicioso thriller de mundo aberto e…
Um grupo de pesquisadores de cibersegurança da Califórnia, usando o modelo de IA Anthropic Mythos,…
Cientistas chineses criaram uma nova versão do computador quântico fotônico Jiuzhang, apresentado pela primeira vez…
A Anatel, agência reguladora brasileira, divulgou imagens do próximo controle Xbox Elite, que apresenta diversas…
Os desenvolvedores do estúdio uzbeque Kraken Express relataram novos sucessos para seu simulador de sobrevivência…