No início deste mês, a Figma foi forçada a suspender seu assistente de IA para designers, Make Designs. Isso aconteceu depois que o assistente começou a criar projetos para usuários muito semelhantes aos aplicativos da Apple para a plataforma iOS. Agora os especialistas da empresa estudaram esse assunto e explicaram por que a rede neural criou tais projetos.
Fonte da imagem: Figma
O uso de designs de aplicativos semelhantes aos produtos Apple pode levar a problemas legais, por isso os usuários da plataforma Figma expressaram insatisfação com o desempenho da solução de software. Além disso, o incidente sugere que a rede neural Figma poderia ser treinada em projetos da Apple e de outras empresas. Descobriu-se que o problema surgiu porque os engenheiros da Figma não testaram adequadamente os componentes adicionados à rede neural generativa.
O anúncio da Figma observa que a empresa “estudou de perto” os sistemas Make Designs subjacentes durante o desenvolvimento de algoritmos e testes beta. Porém, uma semana antes do lançamento da rede neural em acesso público, novos componentes e layouts de exemplo foram adicionados à configuração, que não foram devidamente testados. A empresa admite que alguns desses componentes eram semelhantes aos aplicativos da vida real e surgiram como resultado do algoritmo de IA que processava determinadas solicitações dos usuários.
Assim que a Figma tomou conhecimento do problema com os algoritmos de design, os componentes que faziam com que o conteúdo gerado se assemelhasse a aplicativos da vida real foram removidos. A empresa está atualmente trabalhando para melhorar o controle de qualidade, uma vez concluído, o Make Designs estará novamente disponível ao público. Nenhum prazo específico foi anunciado para quando o assistente de IA estará disponível publicamente novamente.