O Google reforçará a moderação de conteúdo de IA em aplicativos Android a partir de 2024

O Google definirá novos requisitos de moderação de conteúdo para aplicativos Android que usam IA. A partir do início do próximo ano, os desenvolvedores de tais aplicativos deverão implementar um recurso para denunciar material ofensivo ou controverso diretamente na interface do usuário. Essas mudanças afetarão não apenas os chatbots baseados em IA, mas também os aplicativos que criam conteúdo visual e de áudio. A iniciativa visa combater conteúdos impróprios, incluindo deepfakes e desinformação.

Fonte da imagem: dassel/Pixabay

O Google esclareceu que a nova política não se aplicará a todos os aplicativos de IA. Afetará chatbots, aplicativos de criação de imagens, conteúdo de voz e vídeo. Os aplicativos que armazenam apenas conteúdo gerado por IA ou usam IA para resumir material textual permanecerão fora do escopo das novas regras.

O Google se concentra em certas categorias de conteúdo que exigem moderação estrita. Esta lista inclui vídeos ou imagens falsas criadas sem o consentimento das pessoas neles retratadas, bem como gravações de pessoas reais utilizadas para fins fraudulentos.

Além disso, a empresa estará particularmente vigilante quanto à divulgação de informações falsas ou enganosas relacionadas com as eleições. Não foram estabelecidos controlos menos rigorosos para aplicações em que a IA generativa é utilizada principalmente para gratificação sexual, bem como para a criação de código malicioso.

No seu anúncio, a Google enfatizou que a IA generativa é uma categoria de aplicações em rápido crescimento, sugerindo que a empresa pode reconsiderar as suas políticas de IA à medida que a tecnologia se desenvolve. Além das novas regras relativas ao conteúdo gerado por IA, o Google também expandiu sua política de permissões de fotos e vídeos da Play Store, limitando o acesso dos aplicativos Android aos dados.

«Fotos e vídeos nos dispositivos dos usuários são suas informações pessoais e confidenciais, exigindo a máxima responsabilidade”, enfatizou a empresa em seu comunicado. “Tais dados criam vulnerabilidade potencial para os usuários em caso de vazamentos ou outras formas de exploração.” Restringir o acesso a eles não apenas aumenta o nível de segurança do usuário, mas também reduz a carga sobre os desenvolvedores em termos de processamento de informações confidenciais.”

avalanche

Postagens recentes

A próxima aventura policial The Rise of the Golden Idol receberá pelo menos quatro expansões em 2025

A editora PlayStack e os desenvolvedores do estúdio letão Color Gray Games, poucos dias antes…

2 horas atrás

O Bitcoin subiu para US$ 79.000, um novo recorde histórico.

O preço do Bitcoin continua a subir de forma constante nos últimos dias, depois que…

3 horas atrás

A SMIC poderá capitalizar o boom da IA, mesmo sem acesso a processos tecnológicos avançados

Por um lado, a gestão da empresa chinesa SMIC, que está sob sanções, fala de…

8 horas atrás

A taxa de crescimento da receita da TSMC desacelerou em outubro

É geralmente aceite que o boom observado nos sistemas de inteligência artificial tem geralmente um…

9 horas atrás

As tarifas propostas por Trump sobre equipamentos da China afetarão os jogadores, fazendo com que os preços nos EUA subam 50%

Novas tarifas sobre eletrônicos da China, que Donald Trump prometeu introduzir se vencer as eleições…

9 horas atrás