A Microsoft inundou milhares de solicitações de pull do GitHub com anúncios de IA — agora todas elas contêm “conselhos” idênticos do Copilot.

A Microsoft prometeu recentemente reduzir o uso excessivo de recursos de IA no Windows 11, mas parece que a empresa decidiu se vingar do seu próprio serviço web para hospedagem e colaboração em projetos de TI, o GitHub. Mais de 11.000 casos de “dicas” do Copilot sendo adicionadas a solicitações de pull request promovendo a ferramenta de IA da Microsoft foram relatados.

Fonte da imagem: GitHub

Um desenvolvedor de software chamado Zach Manson relatou que o Copilot inseriu anúncios em uma solicitação de pull request do GitHub. Ele afirma que um colega usou o Copilot para corrigir um erro de digitação na solicitação. O Copilot corrigiu o erro, mas também adicionou anúncios do Copilot e do Raycast à descrição da solicitação. “Isso é terrível. Eu sabia que esse tipo de coisa aconteceria eventualmente, mas não esperava que fosse tão cedo”, disse Manson.

“⚡Inicie rapidamente tarefas do agente Copilot de qualquer lugar no seu computador macOS ou Windows usando o Raycast”, diz a solicitação de pull request. O texto, precedido por emojis, é uma tática comum encontrada em conteúdo gerado pelo Copilot.

Uma busca pela frase que apareceu na solicitação de pull request de Manson revela mais de 11.000 instâncias do mesmo texto em solicitações de pull request do GitHub. A marcação das páginas com esse texto inclui a frase “DICAS PARA INICIAR O AGENTE DE CODIFICAÇÃO DO COPILOT”. Parece que o Copilot está adicionando “dicas” a solicitações de pull request que promovem a ferramenta de IA.

Martin Woodward, vice-presidente de Relações com Desenvolvedores do GitHub, confirmou que o Copilot conseguia adicionar dicas de produto a pull requests no GitHub, mas esse recurso foi desativado após receber muitos comentários negativos: “Já o desativamos. O recurso de dicas de produto funcionava bem para pull requests iniciados pelo Copilot, mas quando adicionamos a possibilidade de usar o Copilot para qualquer pull request, o comportamento se tornou problemático. Devido ao feedback dos usuários, as dicas de produto foram completamente desativadas.”A inteligência artificial é usada de diversas maneiras no GitHub, algumas das quais são realmente úteis. Por exemplo, o GitHub Copilot podeMelhore a produtividade, ajude a encontrar bugs e otimize o processo de desenvolvimento. No entanto, a ferramenta foi parcialmente treinada com código hospedado no GitHub, o que causou indignação justificada entre os usuários.

A Microsoft atualizou sua política de uso do GitHub Copilot, declarando que dados de entrada e saída, trechos de código e o contexto associado do GitHub serão usados ​​para treinar os modelos de IA da Microsoft. Essa mudança afeta os usuários do Copilot Free, Pro e Pro+ (usuários corporativos e empresariais não são afetados).

Ironicamente, se o Copilot injetar anúncios em pull requests e, em seguida, os dados do GitHub forem usados ​​para treinar os modelos de IA da Microsoft, as redes neurais serão treinadas em outras redes neurais. Esse ciclo pode ser perigoso. Se a IA alimenta a IA, pode ocorrer deriva — sem uma base adequada, os erros podem se perpetuar e se agravar, tornando-se ainda maiores. Podemos em breve presenciar um futuro em que a IA promova anúncios aleatoriamente após ser treinada com exemplos de código que contenham anúncios injetados.

Por enquanto, a opção de desativar o uso de dados do GitHub para treinar os modelos da Microsoft ainda está disponível.