O fundador da Wikipedia pensou em usar a rede neural GPT para escrever artigos

Apesar das frequentes e sérias imprecisões nas declarações, o grande modelo de linguagem de IA do GPT forçou o fundador da Wikipedia, Jimmy Wales, a considerar seriamente fazer com que a IA escrevesse materiais para a enciclopédia mais lida da história da humanidade.

Jimmy Gales. Fonte da imagem: wikipedia.org

Em uma entrevista recente ao British Evening Standard, Wales fala sobre os problemas inerentes à IA, incluindo sua tendência a “alucinar”, mas observa que a tecnologia, a um custo de não mais de £ 1.000 (US$ 1.250) por ano, pode triplicar o número de artigos da Wikipédia. . Um grande modelo de linguagem como o GPT poderia ser usado, por exemplo, para comparar artigos e encontrar pontos de vista conflitantes – o sistema mostraria aos voluntários onde colocar seus esforços.

Outro cenário possível é mais óbvio: faça uma pesquisa de IA por lacunas na Wikipedia e escreva entradas de resumo para uma página que ainda não foi escrita, usando informações da Internet. Por outro lado, observou o Sr. Wales, a reputação do recurso é baseada em uma atitude especial em relação à objetividade da informação e, para grandes modelos de linguagem como o GPT, isso ainda é um problema real. E se informações que não correspondem à realidade não forem detectadas em tempo hábil, elas começarão a se multiplicar como uma bola de neve. As pessoas o usarão em seu trabalho e outros modelos de IA serão treinados nele, cujos erros se tornarão cada vez mais difíceis de corrigir com o tempo.

Finalmente, Jimmy Wales ainda não encontrou uma resposta sobre como o trabalho da IA ​​afetará o viés sistemático, embora inconsciente, da Wikipedia – a maioria dos voluntários cobre alguns tópicos predominantemente de seu ponto de vista e ignora o que não é de seu interesse. Por um lado, o ChatGPT foi projetado para tentar encontrar uma visão equilibrada de vários tópicos e trazer novas nuances para eles, mas o GPT também possui um viés inerente aos seus dados de treinamento.