OpenAI possui tecnologia que pode reconhecer texto escrito por ChatGPT com 99,9% de precisão, mas o desenvolvedor não a disponibilizou ao público, escreve o The Wall Street Journal. A empresa teme que a colocação de uma ferramenta para determinar se o ChatGPT está sendo utilizado possa levar à recusa de parte do público em utilizar suas soluções de IA.
Fonte da imagem: Growtika/unsplash.com
A discussão sobre este assunto durou cerca de dois anos na OpenAI, disse uma fonte ao WSJ. Os funcionários da OpenAI oscilavam entre o compromisso declarado da empresa com a transparência e o seu desejo de atrair e reter utilizadores. Também existem preocupações de que o uso da ferramenta possa impactar desproporcionalmente grupos de usuários que não são falantes nativos de inglês.
Uma das pesquisas da empresa com usuários fiéis do ChatGPT descobriu que quase um terço pararia de usar um bot de IA ou o usaria com menos frequência se a ferramenta fosse oferecida. A tecnologia proposta permite deixar marcas d’água no texto invisíveis ao olho humano, que podem ser reconhecidas por meio da tecnologia de detecção OpenAI. Esta tecnologia permite determinar se todo ou parte do texto foi escrito por ChatGPT.
No entanto, os funcionários expressaram preocupação de que as marcas d’água possam ser apagadas usando métodos bastante simples, por exemplo, traduzindo o texto usando o Google Translate para outro idioma e vice-versa, ou adicionando emoji ao texto e depois removendo-os manualmente.
O CEO da OpenAI, Sam Altman, e a CTO Mira Murati participaram de discussões sobre a possibilidade de usar a ferramenta para combater fraudes de IA, mas nenhuma decisão final foi tomada.
De acordo com fontes do WSJ, os principais gestores e pesquisadores da OpenAI se reuniram no início de junho para discutir o projeto. Os participantes da reunião concordaram sobre a eficácia da tecnologia de marca d’água para determinar a autoria do texto, mas nenhuma decisão final foi tomada porque os resultados de uma pesquisa com usuários do ChatGPT no ano passado levantaram preocupações sobre a perda de audiência.
O Google também desenvolveu uma tecnologia de marca d’água chamada SynthID, que permite a detecção de texto gerado pela Gemini AI. A tecnologia está atualmente em teste beta e ainda não está disponível ao público.
Os desenvolvedores do estúdio cipriota com raízes russas, Unfrozen, apresentaram uma nova versão da facção…
A OpenAI e a Nvidia são amplamente consideradas as principais beneficiárias do boom da IA…
O bilionário americano Elon Musk considera mais fácil administrar suas empresas privadas, já que suas…
Historicamente, a AMD é conhecida por prolongar a vida útil das plataformas de PC lançando…
A xAI lançou uma grande atualização para sua ferramenta de geração de vídeos, Grok Imagine…
A desenvolvedora britânica das arquiteturas de processadores Arm oferece acesso a elas comercialmente, mas startups…