O Google reforçará a moderação de conteúdo de IA em aplicativos Android a partir de 2024

O Google definirá novos requisitos de moderação de conteúdo para aplicativos Android que usam IA. A partir do início do próximo ano, os desenvolvedores de tais aplicativos deverão implementar um recurso para denunciar material ofensivo ou controverso diretamente na interface do usuário. Essas mudanças afetarão não apenas os chatbots baseados em IA, mas também os aplicativos que criam conteúdo visual e de áudio. A iniciativa visa combater conteúdos impróprios, incluindo deepfakes e desinformação.

Fonte da imagem: dassel/Pixabay

O Google esclareceu que a nova política não se aplicará a todos os aplicativos de IA. Afetará chatbots, aplicativos de criação de imagens, conteúdo de voz e vídeo. Os aplicativos que armazenam apenas conteúdo gerado por IA ou usam IA para resumir material textual permanecerão fora do escopo das novas regras.

O Google se concentra em certas categorias de conteúdo que exigem moderação estrita. Esta lista inclui vídeos ou imagens falsas criadas sem o consentimento das pessoas neles retratadas, bem como gravações de pessoas reais utilizadas para fins fraudulentos.

Além disso, a empresa estará particularmente vigilante quanto à divulgação de informações falsas ou enganosas relacionadas com as eleições. Não foram estabelecidos controlos menos rigorosos para aplicações em que a IA generativa é utilizada principalmente para gratificação sexual, bem como para a criação de código malicioso.

No seu anúncio, a Google enfatizou que a IA generativa é uma categoria de aplicações em rápido crescimento, sugerindo que a empresa pode reconsiderar as suas políticas de IA à medida que a tecnologia se desenvolve. Além das novas regras relativas ao conteúdo gerado por IA, o Google também expandiu sua política de permissões de fotos e vídeos da Play Store, limitando o acesso dos aplicativos Android aos dados.

«Fotos e vídeos nos dispositivos dos usuários são suas informações pessoais e confidenciais, exigindo a máxima responsabilidade”, enfatizou a empresa em seu comunicado. “Tais dados criam vulnerabilidade potencial para os usuários em caso de vazamentos ou outras formas de exploração.” Restringir o acesso a eles não apenas aumenta o nível de segurança do usuário, mas também reduz a carga sobre os desenvolvedores em termos de processamento de informações confidenciais.”

avalanche

Postagens recentes

O declínio da receita da SK hynix desacelerou para 17% no último trimestre

A empresa sul-coreana SK hynix, um dos três maiores fabricantes de memória, publicou seu relatório…

1 hora atrás

IOS 17.1 lançado: AirDrop pela Internet, favoritos no Apple Music e correção de telas queimadas do iPhone 15

A Apple lançou a versão de lançamento do sistema operacional iOS 17.1. A atualização está…

7 horas atrás

“Mostre-me o horror”: Alan Wake II recebeu um trailer de lançamento intenso e jogabilidade com um monstro assustador

Como prometido, o trailer de lançamento do terror psicológico Alan Wake II da Remedy Entertainment…

7 horas atrás

O Reino Unido introduzirá taxas de proteção sobre fibra chinesa barata

As autoridades britânicas estão prontas para tomar medidas duras para proteger o país das importações…

8 horas atrás

A unidade de disco do novo PlayStation 5 Slim exigirá uma conexão com a Internet para ser ativada

A versão menor recentemente lançada do console de jogos PlayStation 5 com unidade de disco…

8 horas atrás