Sber proibiu o artista de IA Kandinsky de gerar imagens com símbolos de estado

«Sber ajustou o funcionamento da rede neural Kandinsky 2.1 depois que funcionários da empresa foram chamados ao Ministério Público devido à geração de uma imagem na bandeira russa. O anúncio foi feito pelo Presidente do Conselho do Sberbank German Gref na sessão plenária do fórum Finopolis 2023.

Fonte da imagem: sberbank.com

Gref disse que logo após o lançamento do algoritmo de IA, os funcionários da Sber foram convocados ao Ministério Público. A razão para isso foi um apelo dos deputados da Duma depois que a rede neural desenhou as cúpulas da Catedral de São Basílio na bandeira nacional russa. “Os deputados acreditaram que se tratava de uma zombaria às nossas bandeiras nacionais. Assim, paramos imediatamente. Já não gera certas coisas – símbolos de estado e assim por diante”, disse German Gref.

Agora o algoritmo Kandinsky 2.1, mediante solicitação do usuário, produz uma imagem predefinida sem adicionar quaisquer outros elementos baseados nela. “Mas, ao mesmo tempo, perde em geração”, observou o gestor máximo do Sberbank, acrescentando que ao longo de seis meses, o Sber ajustou as configurações da rede neural, razão pela qual a versão do algoritmo disponível para uma ampla uma gama de usuários “perdeu 12% em criatividade e precisão”.

Gref disse ainda que ao desenvolver tecnologias baseadas em inteligência artificial, as empresas exigem, antes de tudo, “condescendência e compreensão” das autoridades. Quanto ao processo no Ministério Público, terminou sem consequências para o banco. “É bom termos um promotor moderno e com senso de humor: ele estudou tudo, graças a Deus, não fomos levados a lugar nenhum”, resumiu Gref.