Site de Stack Overflow, destinado a organizações de ajuda mútua para os programadores, proibiu temporariamente os usuários a publicação de materiais de referência gerados pelo chat bot ChatGPT. De acordo com os moderadores, criar pistas com a ajuda da inteligência artificial ChatGPT muito fácil, e eles parecem muito plausível. No entanto, muitas vezes eles são erradas.
“Fonte da imagem: Andrea De Santis/unsplash.com”
Chat-bot ChatGPT — experimental de uma solução desenvolvida pela OpenAI com base em um gerador de textos GPT-3.5. Rede uma versão de demonstração do produto foi apresentado na semana passada e, desde então, muito usado pelos usuários. O problema é que o bot é capaz de lidar com a massa de tarefas, de escrever poemas e canções até cenários e para a formulação de respostas a perguntas, mas com toda a autenticidade dos textos, eles muitas vezes contêm erros graves, especialmente quando se trata de temas dedicados a trabalhar com o software de código aberto. No entanto, os erros cometidos em outras áreas de: compor a biografia de uma personalidade famosa, ChatGPT é capaz de inserir dados incorretos. Da mesma forma, ele cria muito “crível”, mas inativo o código.
A base ChatGPT postas grandes modelos de linguagem (Large Language Model, LLM). Eles analisam grandes quantidades de textos, formam padrões e, com base neles oferecem uma solução própria, literalmente, antecipando, qual deve ser a seguinte palavra na frase. Tais modelos não têm uma idéia exata sobre o funcionamento de alguns sistemas, resultando na verdade é gerado informações inválidas. Ainda é difícil avaliar o quanto da preparados os materiais a недостоверна. No Stack Overflow, decidiu que o risco de desinformação dos usuários é muito grande. No entanto, muitos especialistas temem que, com o aumento do número de gerados os infiéis respostas aumenta o risco de que eles irão compartilhar na Rede, usando o mais recente em caos — conteúdo gerado pelo próprio usuário, basta se afogar em um mar de conteúdos gerados de materiais.
Enquanto os dados sobre os danos наносимом LLM no mundo real, um pouco, mas os eventos no Stack Overflow, servem de confirmação da existência de uma tendência. De acordo com os moderadores, antes da introdução da proibição de ChatGPT no local já surgiram milhares de resposta gerados, cada um dos quais requer detalhada de validação.
Especialistas temem que a situação persistir, plataformas e outros avalanche gerado AI conteúdo não irá receber as opiniões dos usuários actuais.
Os usuários do Stack Overflow, apoiaram a proibição, embora apontam que reconhecer o “artificial” de conteúdo não vai ser fácil. O conselho pediu e o ChatGPT. No curso de numerosas experiências aquele emitido é bastante razoável para a resposta. “Em geral, se permite gerados IA respostas no Stack Overflow — decisão difícil, que deve ser tratado com cuidado pela comunidade”, afirmou o bot.