A OpenAI suspendeu discretamente uma ferramenta projetada para distinguir texto gerado por IA de texto escrito por humanos. A empresa admitiu que o motivo foi a “baixa precisão” do funcionamento do algoritmo.
Fonte da imagem: Lukas/pixabay.com
A OpenAI garantiu que o feedback do usuário será levado em consideração e métodos mais eficientes para classificar materiais estão sendo estudados. Além disso, a empresa se “comprometeu” em desenvolver uma ferramenta semelhante para identificar conteúdo visual e de áudio gerado por IA. A plataforma de análise de texto foi lançada em janeiro de 2023 – a OpenAI enfatizou a importância de criar sistemas que possam detectar falsas afirmações feitas pela IA.
Ao mesmo tempo, a empresa, com o apoio de cientistas das universidades de Stanford e Georgetown, publicou um artigo que analisava o risco de campanhas inteiras de desinformação realizadas com a ajuda da IA. O artigo diz que os modelos de linguagem deram um grande passo à frente e o texto que eles criam é difícil de distinguir da escrita humana. Textos persuasivos e enganosos podem ser gerados pela IA em grande escala, tornando-se uma arma nas mãos dos invasores. “Intrusos” neste caso podem ser estudantes negligentes e forças políticas marginais. Os autores do trabalho concluem que, dada a disponibilidade geral das tecnologias de IA, agora é quase impossível fazer algo para evitar tais incidentes.
Uma das maneiras de lidar com modelos de IA potencialmente perigosos pode ser ferramentas especializadas para detectar materiais criados por redes neurais generativas. É verdade que, na execução do OpenAI, essa ferramenta oferecia recursos limitados e baixa precisão: exigia a inserção manual de um texto com mil caracteres para avaliar posteriormente se foi escrito por uma pessoa ou por uma IA. Ele classificou com sucesso 26% das amostras como “provavelmente escritas por IA” e em 9% dos casos atribuiu a mesma classificação a textos escritos por humanos. A empresa não recomendou o uso do sistema como uma “ferramenta primária de tomada de decisão”, mas mesmo assim o disponibilizou publicamente. A plataforma foi desativada em 20 de julho e a data de lançamento de sua versão aprimorada não foi especificada.
A administração da plataforma Reddit anunciou que atualizará as exceções para robôs (arquivo robots.txt), que…
A Vivo apresentou o smartphone de gama média Vivo Y28s 5G. Se você acha que…
Um grupo de entusiastas do Rabbitude que fazem engenharia reversa do dispositivo Rabbit R1 AI…
Marc Whitten, um engenheiro e veterano da indústria de jogos que esteve na vanguarda do…
A OpenAI adiou o lançamento de seu tão aguardado recurso de assistente de voz ChatGPT…
A editora Bandai Namco e os desenvolvedores do estúdio FromSoftware anunciaram o lançamento do primeiro…