O Google revelou tecnologia para marcar e reconhecer textos criados por modelos generativos de IA. A ferramenta, chamada SynthID Text, não afetará a qualidade e velocidade de geração de conteúdo, e estará disponível de forma totalmente gratuita para desenvolvedores e empresas.
Fonte da imagem: Copiloto
O texto SynthID funciona assim. Ao gerar texto, o modelo prevê qual “token” (caractere ou palavra) virá a seguir com base na probabilidade de cada token aparecer e adiciona informações adicionais à distribuição dessas probabilidades modulando os caracteres ajustados. Em última análise, formam uma marca d’água, que ajuda a determinar se o texto foi criado por IA. “O padrão final de probabilidades de palavras selecionado pelo modelo, combinado com as estimativas de probabilidade modificadas, será considerado uma marca d’água”, explica a empresa em uma postagem no blog.
O Google afirma que o SynthID Text, que foi integrado ao Gemini na primavera, não afeta a qualidade, precisão ou velocidade de geração. No entanto, o texto que foi cortado, parafraseado ou alterado pode ser processado de forma um pouco pior. Quanto aos fatos, “respostas a perguntas muito específicas e inequívocas oferecem menos oportunidades para ajustar a distribuição de tokens sem comprometer a precisão dos fatos”.
É importante notar que o Google não é a única empresa que trabalha com tecnologia de marca d’água de texto gerada por IA. Por exemplo, a OpenAI também estava a desenvolver métodos para aplicar marcas de água, mas atrasou o seu lançamento devido a obstáculos técnicos e considerações comerciais.
Se a tecnologia for amplamente adotada, poderá virar a maré contra “detectores de IA” imprecisos, mas cada vez mais populares, que identificam erroneamente trabalhos ou redações de estudantes como sendo gerados por uma rede neural. Como escreve o TechCrunch, “a questão permanece em aberto”. No entanto, alguns países já estão a tomar medidas. Por exemplo, o governo chinês introduziu a rotulagem obrigatória de conteúdos gerados por IA e o estado da Califórnia (EUA) está prestes a seguir o exemplo.