OpenAI possui tecnologia que pode reconhecer texto escrito por ChatGPT com 99,9% de precisão, mas o desenvolvedor não a disponibilizou ao público, escreve o The Wall Street Journal. A empresa teme que a colocação de uma ferramenta para determinar se o ChatGPT está sendo utilizado possa levar à recusa de parte do público em utilizar suas soluções de IA.
Fonte da imagem: Growtika/unsplash.com
A discussão sobre este assunto durou cerca de dois anos na OpenAI, disse uma fonte ao WSJ. Os funcionários da OpenAI oscilavam entre o compromisso declarado da empresa com a transparência e o seu desejo de atrair e reter utilizadores. Também existem preocupações de que o uso da ferramenta possa impactar desproporcionalmente grupos de usuários que não são falantes nativos de inglês.
Uma das pesquisas da empresa com usuários fiéis do ChatGPT descobriu que quase um terço pararia de usar um bot de IA ou o usaria com menos frequência se a ferramenta fosse oferecida. A tecnologia proposta permite deixar marcas d’água no texto invisíveis ao olho humano, que podem ser reconhecidas por meio da tecnologia de detecção OpenAI. Esta tecnologia permite determinar se todo ou parte do texto foi escrito por ChatGPT.
No entanto, os funcionários expressaram preocupação de que as marcas d’água possam ser apagadas usando métodos bastante simples, por exemplo, traduzindo o texto usando o Google Translate para outro idioma e vice-versa, ou adicionando emoji ao texto e depois removendo-os manualmente.
O CEO da OpenAI, Sam Altman, e a CTO Mira Murati participaram de discussões sobre a possibilidade de usar a ferramenta para combater fraudes de IA, mas nenhuma decisão final foi tomada.
De acordo com fontes do WSJ, os principais gestores e pesquisadores da OpenAI se reuniram no início de junho para discutir o projeto. Os participantes da reunião concordaram sobre a eficácia da tecnologia de marca d’água para determinar a autoria do texto, mas nenhuma decisão final foi tomada porque os resultados de uma pesquisa com usuários do ChatGPT no ano passado levantaram preocupações sobre a perda de audiência.
O Google também desenvolveu uma tecnologia de marca d’água chamada SynthID, que permite a detecção de texto gerado pela Gemini AI. A tecnologia está atualmente em teste beta e ainda não está disponível ao público.
A Microsoft e a Nscale expandiram sua parceria. A gigante da tecnologia está alugando 30.000…
Apesar de mais de dois anos e meio de espera, os proprietários do PS5 não…
Quando a Microsoft anunciou pela primeira vez o recurso Recall, que usa algoritmos de IA…
Um aplicativo de verificação de idade para plataformas online destinado a usuários europeus está pronto…
O crescimento exponencial da inteligência artificial criou uma escassez global de chips de memória DRAM…
Como parte da série limitada de carros Rolls-Royce Coachbuild, construídos artesanalmente, a montadora britânica revelou…