OpenAI possui tecnologia que pode reconhecer texto escrito por ChatGPT com 99,9% de precisão, mas o desenvolvedor não a disponibilizou ao público, escreve o The Wall Street Journal. A empresa teme que a colocação de uma ferramenta para determinar se o ChatGPT está sendo utilizado possa levar à recusa de parte do público em utilizar suas soluções de IA.
Fonte da imagem: Growtika/unsplash.com
A discussão sobre este assunto durou cerca de dois anos na OpenAI, disse uma fonte ao WSJ. Os funcionários da OpenAI oscilavam entre o compromisso declarado da empresa com a transparência e o seu desejo de atrair e reter utilizadores. Também existem preocupações de que o uso da ferramenta possa impactar desproporcionalmente grupos de usuários que não são falantes nativos de inglês.
Uma das pesquisas da empresa com usuários fiéis do ChatGPT descobriu que quase um terço pararia de usar um bot de IA ou o usaria com menos frequência se a ferramenta fosse oferecida. A tecnologia proposta permite deixar marcas d’água no texto invisíveis ao olho humano, que podem ser reconhecidas por meio da tecnologia de detecção OpenAI. Esta tecnologia permite determinar se todo ou parte do texto foi escrito por ChatGPT.
No entanto, os funcionários expressaram preocupação de que as marcas d’água possam ser apagadas usando métodos bastante simples, por exemplo, traduzindo o texto usando o Google Translate para outro idioma e vice-versa, ou adicionando emoji ao texto e depois removendo-os manualmente.
O CEO da OpenAI, Sam Altman, e a CTO Mira Murati participaram de discussões sobre a possibilidade de usar a ferramenta para combater fraudes de IA, mas nenhuma decisão final foi tomada.
De acordo com fontes do WSJ, os principais gestores e pesquisadores da OpenAI se reuniram no início de junho para discutir o projeto. Os participantes da reunião concordaram sobre a eficácia da tecnologia de marca d’água para determinar a autoria do texto, mas nenhuma decisão final foi tomada porque os resultados de uma pesquisa com usuários do ChatGPT no ano passado levantaram preocupações sobre a perda de audiência.
O Google também desenvolveu uma tecnologia de marca d’água chamada SynthID, que permite a detecção de texto gerado pela Gemini AI. A tecnologia está atualmente em teste beta e ainda não está disponível ao público.
A Apple está testando ativamente pelo menos quatro designs de armação diferentes para seus óculos…
Em diversas áreas, estão sendo feitos esforços para igualar as capacidades cinéticas de robôs humanoides…
A MSI apresentou os computadores de formato compacto Cubi NUC TWG, projetados para uso empresarial…
De acordo com a Omdia, empresa líder em pesquisa de mercado, o mercado global de…
De acordo com a Omdia, empresa líder em pesquisa de mercado, o mercado global de…
O progresso da concorrente Samsung Electronics no domínio da produção de HBM4 não deve impedir…