DeepMind AI ensinou uma rede neural a resolver qualquer tarefa de programação

Os engenheiros da Alphabet DeepMind AI falaram sobre a criação do sistema de inteligência artificial (AI) AlphaCode, que é capaz de gerar código e resolver problemas oferecidos em campeonatos de programação. Para fazer isso, a rede neural foi treinada em duas habilidades de linguagem: entender o enunciado do problema e encontrar sua solução.

Fonte da imagem: Christopher Gower / unsplash.com

Hoje, existem sistemas que podem resolver problemas individuais gerando código de programa, mas essas soluções não são de natureza universal: uma IA treinada em uma classe de problemas provavelmente falhará quando as condições do problema mudarem drasticamente. Portanto, os engenheiros do Google adotaram uma abordagem um pouco diferente, assumindo que a descrição do problema é uma expressão do que o algoritmo deve fazer e sua solução é a mesma, mas declarada em uma linguagem diferente. Portanto, ao treinar o sistema, os pesquisadores decidiram atingir dois objetivos: primeiro, a IA deve aprender a descrição da tarefa e, a partir de sua representação interna, criar um código de programa.

A fonte de dados foi um arquivo GitHub com mais de 700 GB de código intercalado com comentários em linguagem natural explicando como funciona. Após a primeira fase de treinamento, o sistema passou para a fase de configuração: a DeepMind organizou um campeonato interno de programação, cujos materiais também foram “alimentados” para a IA. Havia um ciclo completo nesses materiais: declaração do problema, código funcional e não funcional, bem como casos de teste para sua verificação. Essa abordagem já foi usada antes, mas desta vez os engenheiros alocaram significativamente mais recursos para treinamento – “ordem de magnitude maior do que no trabalho anterior”.

Fonte da imagem: Procreator / unsplash.com

No estágio inicial, o resultado ficou longe do ideal: mais de 40% das soluções oferecidas pela rede neural exigiam muitos recursos de hardware ou a solução do problema era muito demorada. Ao analisar o código, os criadores do sistema descobriram que, ao resolver vários problemas, mesmo que o programa produzisse o resultado correto, o sistema frequentemente usava fragmentos de código semelhantes que produziam as mesmas respostas com os mesmos dados iniciais. Ao filtrar opções incorretas, o AlphaCode conseguiu atuar no nível de programadores com experiência de vários meses a um ano, estando entre os 54% dos competidores que concluíram as tarefas do campeonato.

Esse resultado foi alcançado com a introdução de uma checagem automatizada para 100 mil soluções oferecidas pelo sistema – o aumento desse número levou a um aumento proporcional na proporção de acertos. Mas, proporcionalmente, a intensidade de recursos do sistema de computação também cresceu: inicialmente, seu treinamento exigia uma quantidade de energia 16 vezes maior que a necessidade anual de uma família americana média.

Os cientistas concluíram que o sistema realmente aprendeu a funcionar como pretendido, oferecendo soluções corretas, e não fragmentos de código aleatórios “na esperança” de que um deles funcionasse. No entanto, à medida que as condições se tornam mais complexas, a intensidade de recursos aumenta significativamente, o que significa que hoje os serviços de programadores reais ainda são procurados, embora as perspectivas abertas pela IA também mereçam atenção.