Mercado de chatbot de IA OpanAI está inundado com bots falsificados

A GPT Store, o mercado oficial da OpenAI para chatbots GPT AI baseados nos modelos generativos de IA da OpenAI, está transbordando de aplicativos potencialmente infratores, escreve o TechCrunch. Em particular, podem ser encontrados aqui GPTs, que permitem a criação de arte no estilo Disney e Marvel, mas servem como pouco mais do que um meio de acesso a serviços pagos de terceiros e se anunciam como capazes de contornar ferramentas de descoberta de conteúdo de IA, como Turnitin e Copyleaks.

Fonte da imagem: BoliviaInteligente/unsplash.com

Por exemplo, a GPT Store possui vários GPTs baseados em franquias populares de filmes, TV e videogames que, segundo o TechCrunch, não foram criadas ou autorizadas pelos proprietários dessas franquias. Um GPT permite criar monstros no estilo Monsters, Inc. do filme de animação da Pixar, enquanto outro promete aventuras de Star Wars baseadas em texto.

Hospedar esses chatbots na GPT Store, bem como GPTs que permitem aos usuários conversar com personagens de marca registrada, como Wario e Aang de Avatar: The Last Airbender, pode abrir a porta para ações judiciais por detentores de direitos autorais.

A própria OpenAI não será responsabilizada por violação de direitos autorais por criadores de GPT devido a uma disposição da Lei de Direitos Autorais do Milênio Digital (DMCA) que protege ela e outras plataformas (YouTube, Facebook✴) que hospedam conteúdo infrator, desde que essas plataformas cumpram os requisitos legais e corrigir violações mediante solicitação. No entanto, para uma empresa envolvida em litígios no domínio da propriedade intelectual, isto ameaça perdas de reputação.

As regras da GPT Store proíbem os desenvolvedores de criar GPTs que violem os padrões de integridade acadêmica. No entanto, os GPTs podem ser encontrados na GPT Store e seus recursos incluem a capacidade de contornar detectores de conteúdo de IA, incluindo aplicativos oferecidos a professores em plataformas de verificação de plágio. Por exemplo, os autores do Humanizer Pro, classificado em segundo lugar na categoria Escrita na GPT Store, afirmam que “humaniza” o conteúdo para contornar os detectores de IA, preservando o “significado e a qualidade” do texto, ao mesmo tempo que fornece uma aparência “100% humana”. avaliação .

Alguns aplicativos são canais ocultos para serviços pagos premium. Humanizer, por exemplo, sugere tentar um “plano premium” para “usar o algoritmo [mais] avançado” que alimenta o texto inserido no chatbot em um plugin do site de terceiros GPTInf. Uma assinatura do GPTInf custa US$ 12 por mês para 10.000 palavras por mês, ou US$ 8 por mês se paga com um ano de antecedência.

E embora a OpenAI tenha dito que tais aplicativos violam suas políticas e esteja fazendo todos os esforços para combater as violações, o TechCrunch acredita que a Loja GPT está uma bagunça. E se medidas drásticas não forem tomadas num futuro próximo, tudo continuará assim.