A ferramenta Mozilla AI Help arruinou a reputação do repositório autorizado MDN Web Docs dedicado ao desenvolvimento web

O MDN Web Docs (anteriormente Mozilla Developer Network) é um repositório de documentação para desenvolvedores web aprenderem como construir sites e implementar vários projetos web. Embora o site seja considerado uma fonte confiável de informações, a conexão da Mozilla com a ferramenta AI Help levou a um verdadeiro escândalo.

Fonte da imagem: Alexandra_Koch/unsplash.com

O Generative AI-powered AI Help foi desenvolvido pela Mozilla para ser um “companheiro de solução de problemas” para desenvolvedores da Web que procuram respostas no MDN Web Docs. O site contém informações sobre CSS, HTML, JavaScript e outras tecnologias da web. Até recentemente, era um recurso oficial, contribuído por voluntários, corporações como Microsoft e Google e, é claro, a própria Mozilla. O MDN também contém a documentação da web da Samsung depois que a empresa sul-coreana decidiu encerrar seus próprios projetos de agregação de documentação. Como se viu, a tentativa da Mozilla de fazer uma mudança na forma de uma ferramenta de IA causou uma reação dos usuários.

Segundo os representantes do projeto MDN, o AI Help deveria otimizar a busca de informações pelos desenvolvedores, tornando-a “rápida e fácil”. Sabe-se que a API OpenAI é utilizada para que a IA emita as devidas informações do repositório em resposta às requisições. Na verdade, tudo acabou sendo muito pior.

A postagem do GitHub na seção do projeto Yari, na qual o MDN é construído, tem muitos comentários sobre o recurso AI Help. Um usuário recebeu a resposta errada para uma pergunta e postou uma descrição da situação no GitHub – a postagem foi acompanhada por inúmeras críticas raivosas, que chamaram o novo recurso de “pior do que inútil”, enfatizando que as respostas humanoides “podem estar acidentalmente corretas , mas pode conter falsificações convincentes.

Muitos comentaristas reconheceram que a novidade causa mais danos do que benefícios e admitiram que a IA sofre de alucinações características das soluções LLM. Como resultado, um dos principais desenvolvedores voluntários do MDN sob o apelido de sideshowbarker prometeu “levantar” o problema no próprio Mozilla “o mais alto que puder”. Não se sabe se ele conseguiu isso, mas é relatado que o botão AI Help não está mais disponível.