A OpenAI suspendeu discretamente uma ferramenta projetada para distinguir texto gerado por IA de texto escrito por humanos. A empresa admitiu que o motivo foi a “baixa precisão” do funcionamento do algoritmo.
Fonte da imagem: Lukas/pixabay.com
A OpenAI garantiu que o feedback do usuário será levado em consideração e métodos mais eficientes para classificar materiais estão sendo estudados. Além disso, a empresa se “comprometeu” em desenvolver uma ferramenta semelhante para identificar conteúdo visual e de áudio gerado por IA. A plataforma de análise de texto foi lançada em janeiro de 2023 – a OpenAI enfatizou a importância de criar sistemas que possam detectar falsas afirmações feitas pela IA.
Ao mesmo tempo, a empresa, com o apoio de cientistas das universidades de Stanford e Georgetown, publicou um artigo que analisava o risco de campanhas inteiras de desinformação realizadas com a ajuda da IA. O artigo diz que os modelos de linguagem deram um grande passo à frente e o texto que eles criam é difícil de distinguir da escrita humana. Textos persuasivos e enganosos podem ser gerados pela IA em grande escala, tornando-se uma arma nas mãos dos invasores. “Intrusos” neste caso podem ser estudantes negligentes e forças políticas marginais. Os autores do trabalho concluem que, dada a disponibilidade geral das tecnologias de IA, agora é quase impossível fazer algo para evitar tais incidentes.
Uma das maneiras de lidar com modelos de IA potencialmente perigosos pode ser ferramentas especializadas para detectar materiais criados por redes neurais generativas. É verdade que, na execução do OpenAI, essa ferramenta oferecia recursos limitados e baixa precisão: exigia a inserção manual de um texto com mil caracteres para avaliar posteriormente se foi escrito por uma pessoa ou por uma IA. Ele classificou com sucesso 26% das amostras como “provavelmente escritas por IA” e em 9% dos casos atribuiu a mesma classificação a textos escritos por humanos. A empresa não recomendou o uso do sistema como uma “ferramenta primária de tomada de decisão”, mas mesmo assim o disponibilizou publicamente. A plataforma foi desativada em 20 de julho e a data de lançamento de sua versão aprimorada não foi especificada.