OpenAI possui tecnologia que pode reconhecer texto escrito por ChatGPT com 99,9% de precisão, mas o desenvolvedor não a disponibilizou ao público, escreve o The Wall Street Journal. A empresa teme que a colocação de uma ferramenta para determinar se o ChatGPT está sendo utilizado possa levar à recusa de parte do público em utilizar suas soluções de IA.
Fonte da imagem: Growtika/unsplash.com
A discussão sobre este assunto durou cerca de dois anos na OpenAI, disse uma fonte ao WSJ. Os funcionários da OpenAI oscilavam entre o compromisso declarado da empresa com a transparência e o seu desejo de atrair e reter utilizadores. Também existem preocupações de que o uso da ferramenta possa impactar desproporcionalmente grupos de usuários que não são falantes nativos de inglês.
Uma das pesquisas da empresa com usuários fiéis do ChatGPT descobriu que quase um terço pararia de usar um bot de IA ou o usaria com menos frequência se a ferramenta fosse oferecida. A tecnologia proposta permite deixar marcas d’água no texto invisíveis ao olho humano, que podem ser reconhecidas por meio da tecnologia de detecção OpenAI. Esta tecnologia permite determinar se todo ou parte do texto foi escrito por ChatGPT.
No entanto, os funcionários expressaram preocupação de que as marcas d’água possam ser apagadas usando métodos bastante simples, por exemplo, traduzindo o texto usando o Google Translate para outro idioma e vice-versa, ou adicionando emoji ao texto e depois removendo-os manualmente.
O CEO da OpenAI, Sam Altman, e a CTO Mira Murati participaram de discussões sobre a possibilidade de usar a ferramenta para combater fraudes de IA, mas nenhuma decisão final foi tomada.
De acordo com fontes do WSJ, os principais gestores e pesquisadores da OpenAI se reuniram no início de junho para discutir o projeto. Os participantes da reunião concordaram sobre a eficácia da tecnologia de marca d’água para determinar a autoria do texto, mas nenhuma decisão final foi tomada porque os resultados de uma pesquisa com usuários do ChatGPT no ano passado levantaram preocupações sobre a perda de audiência.
O Google também desenvolveu uma tecnologia de marca d’água chamada SynthID, que permite a detecção de texto gerado pela Gemini AI. A tecnologia está atualmente em teste beta e ainda não está disponível ao público.
A Microsoft confirmou que reduzirá o número de anúncios e recomendações no Windows 11 para…
A Nokia delineou sua visão para o futuro padrão sem fio Wi-Fi 9, projetado para…
Contrariando as expectativas, os anúncios da Apple em março não mencionaram um iPad básico com…
A LG Display anunciou o início da produção em massa dos primeiros painéis LCD do…
A LG Display anunciou o início da produção em massa dos primeiros painéis LCD do…
Astrônomos estão soando o alarme, protestando contra a implementação de dois projetos de grande escala…