OpenAI possui tecnologia que pode reconhecer texto escrito por ChatGPT com 99,9% de precisão, mas o desenvolvedor não a disponibilizou ao público, escreve o The Wall Street Journal. A empresa teme que a colocação de uma ferramenta para determinar se o ChatGPT está sendo utilizado possa levar à recusa de parte do público em utilizar suas soluções de IA.
Fonte da imagem: Growtika/unsplash.com
A discussão sobre este assunto durou cerca de dois anos na OpenAI, disse uma fonte ao WSJ. Os funcionários da OpenAI oscilavam entre o compromisso declarado da empresa com a transparência e o seu desejo de atrair e reter utilizadores. Também existem preocupações de que o uso da ferramenta possa impactar desproporcionalmente grupos de usuários que não são falantes nativos de inglês.
Uma das pesquisas da empresa com usuários fiéis do ChatGPT descobriu que quase um terço pararia de usar um bot de IA ou o usaria com menos frequência se a ferramenta fosse oferecida. A tecnologia proposta permite deixar marcas d’água no texto invisíveis ao olho humano, que podem ser reconhecidas por meio da tecnologia de detecção OpenAI. Esta tecnologia permite determinar se todo ou parte do texto foi escrito por ChatGPT.
No entanto, os funcionários expressaram preocupação de que as marcas d’água possam ser apagadas usando métodos bastante simples, por exemplo, traduzindo o texto usando o Google Translate para outro idioma e vice-versa, ou adicionando emoji ao texto e depois removendo-os manualmente.
O CEO da OpenAI, Sam Altman, e a CTO Mira Murati participaram de discussões sobre a possibilidade de usar a ferramenta para combater fraudes de IA, mas nenhuma decisão final foi tomada.
De acordo com fontes do WSJ, os principais gestores e pesquisadores da OpenAI se reuniram no início de junho para discutir o projeto. Os participantes da reunião concordaram sobre a eficácia da tecnologia de marca d’água para determinar a autoria do texto, mas nenhuma decisão final foi tomada porque os resultados de uma pesquisa com usuários do ChatGPT no ano passado levantaram preocupações sobre a perda de audiência.
O Google também desenvolveu uma tecnologia de marca d’água chamada SynthID, que permite a detecção de texto gerado pela Gemini AI. A tecnologia está atualmente em teste beta e ainda não está disponível ao público.
A AWS publicou uma descrição técnica da arquitetura de rede de data center que implementará…
Durante um teste estático de ignição em 29 de maio de 2026, o foguete New…
A editora Dotemu (Ninja Gaiden: Ragebound, Marvel Cosmic Invasion) e a Triskell Interactive, desenvolvedora de…
A Alphabet não é apenas uma das maiores empresas do mercado de serviços em nuvem,…
Cristiano Amon, CEO da Qualcomm, apresentou a plataforma robótica Dragonwing IQ10 atualizada na Computex 2026.…
A editora DreadXP e o estúdio britânico Lovely Hellplace (Dread Delusion) anunciaram a data de…