CEO do Google DeepMind: IA autônoma pode sair do controle – é necessária uma regulamentação global.

O CEO e cofundador do Google DeepMind, Demis Hassabis, afirmou que a implantação em larga escala de sistemas de inteligência artificial apresenta sérios riscos que exigem atenção urgente e cooperação internacional para serem enfrentados. Ele acredita que as instituições existentes podem não ser capazes de gerenciar os futuros desenvolvimentos da IA.

Fonte da imagem: Google DeepMind

Hassabis identificou duas categorias principais de riscos associados às tecnologias de IA: adversários que utilizam tecnologias benéficas para fins maliciosos e riscos técnicos inerentes a sistemas cada vez mais autônomos. “À medida que os sistemas se tornam mais autônomos e independentes, eles se tornam mais úteis, mais semelhantes a agentes, mas também têm maior potencial para assumir riscos e executar ações que podem não ter sido previstas em seu projeto”, disse ele em entrevista à Bloomberg Television.

Hassabis também expressou preocupação com o fato de as instituições existentes poderem estar mal preparadas para gerenciar os futuros desenvolvimentos em IA. Ele observou o alcance global da tecnologia, acrescentando que “ela é digital, o que significa que provavelmente afetará todos no mundo e ultrapassará fronteiras”.

Na Cúpula de IA na Índia, Hassabis enfatizou a importância de eventos internacionais como plataformas cruciais para reunir tomadores de decisão e tecnólogos. “É preciso haver elementos de cooperação internacional, ou pelo menos padrões mínimos para a implementação dessas tecnologias”, afirmou.