Cientistas descobriram que o código do programa criado pela IA está sujeito a vulnerabilidades

Os programadores que usam sistemas de inteligência artificial (IA) para desenvolver código têm maior probabilidade de receber aplicativos suscetíveis a vulnerabilidades, escreve o TechCrunch, citando um estudo de cientistas da Universidade de Stanford. Na opinião deles, os sistemas de geração de código devem ser tratados com cautela.

Fonte da imagem: Christopher Gower / unsplash.com

A base para o estudo foi o sistema de geração de código baseado em Codex AI desenvolvido pelo laboratório OpenAI. 47 desenvolvedores participaram do projeto – de estudantes de graduação a especialistas com muitos anos de experiência. Eles usaram a plataforma Codex para solucionar problemas de segurança, e as linguagens de programação utilizadas no estudo foram Python, JavaScript e C.

Como se viu, os programadores que usaram o sistema Codex em seu trabalho eram mais propensos a oferecer soluções incorretas e inseguras em comparação com o grupo de controle. Além disso, eles consideraram suas decisões mais avançadas em termos de segurança cibernética em relação às decisões dos especialistas do grupo de controle.

Os autores do estudo enfatizam que não pretendem virar a comunidade contra o Codex e outros sistemas de geração de código de IA, mas são mais bem utilizados na resolução de problemas que não estão associados a alto risco. Como solução para o problema, os cientistas propõem criar mecanismos para analisar o código de IA proposto, além de fortalecer as configurações de segurança padrão nas bibliotecas criptográficas.

Além disso, os geradores geralmente são treinados em designs de licença limitada e, em seguida, apresentam soluções, por exemplo, da base de código Quake ou de tutoriais de JavaScript – o código que eles criam pode ser uma fonte de problemas de direitos autorais. Eles tentaram implementar um mecanismo de proteção contra tal plágio na plataforma GitHub Copilot, mas só piorou: o sistema passou a emitir grandes fragmentos do código de outra pessoa, incluindo informações sobre autores e até textos de licença.