Samsung Galaxy AI é flagrado se comportando de forma estranha em relação ao tom de pele

A tarefa de filtrar conteúdo para recursos do Galaxy AI em dispositivos Samsung é tão desafiadora quanto restringir conteúdo para modelos de idiomas grandes. Em alguns casos, o fabricante coreano claramente exagerou, como observaram usuários da comunidade Reddit e do recurso Android Authority.

Um usuário do Reddit encarregou a Galaxy AI de verificar a ortografia de frases simples sobre a cor da pele. O sistema concluiu a tarefa quando foram apresentadas as frases “minha pele é branca” e “minha pele é escura”, mas se recusou a funcionar com a frase “minha pele é negra”, indicando que ela continha conteúdo inapropriado. O experimento produziu os mesmos resultados quando o Android Authority o repetiu, mas eles foram além e mudaram a primeira para a terceira pessoa nas frases. Depois disso, a Galaxy AI concordou em trabalhar apenas com a frase “sua pele é escura”, mas considerou “sua pele é branca” e “sua pele é negra” inapropriadas.

Fonte da imagem: androidauthority.com

Por um lado, isso faz sentido, e frases em terceira pessoa devem ser moderadas de forma mais rigorosa por razões formais, porque é mais provável que uma pessoa insulte outra pessoa do que a si mesma. Por outro lado, fora de contexto, todas essas expressões são neutras e claramente não sujeitas à moderação.

Fonte da imagem: androidauthority.com

Esta não é a primeira vez que a Samsung é excessivamente zelosa na moderação de conteúdo em dispositivos, ressalta o Android Authority. Então, no ano passado, o proprietário não conseguiu fazer com que o Samsung Galaxy S24 percebesse adequadamente uma conversa sobre excrementos intestinais quando se tratava de uma criança e uma consulta com um médico; Em outro caso, a IA da Samsung, ao ajudar um usuário a escrever um romance, se recusou a descrever uma garota como “gostosa”. Ainda não houve comentários da Samsung sobre esses incidentes.