O urso de IA desonrado foi treinado para parar de falar sobre assuntos fúteis e voltou às prateleiras.

Em meados deste mês, os produtos da empresa singapuriana FoloToy se viram no centro de um escândalo depois que pesquisadores descobriram que seu urso de pelúcia Kumma, com alto-falante inteligente embutido, era capaz de comunicar assuntos perigosos para crianças. Após a suspensão das vendas desses brinquedos, eles retornaram às prateleiras virtuais, já que o fabricante agora está em parceria com a ByteDance, e não mais com a OpenAI.

Fonte da imagem: FoloToy

Vale lembrar que o alto-falante inteligente dentro do brinquedo utilizava anteriormente o modelo de linguagem GPT-40, desenvolvido pela empresa americana OpenAI, mas o site do fabricante do urso agora menciona o chatbot Coze, desenvolvido pela empresa chinesa ByteDance, proprietária da rede social TikTok. Aparentemente, essa mudança no parceiro tecnológico foi suficiente para proteger usuários menores de idade de discussões sobre temas perigosos. O Teddy Kumma pode ser adquirido por US$ 99 no site oficial da FoloToy.

O escândalo veio à tona quando pesquisadores descobriram que o alto-falante inteligente dentro do brinquedo infantil era capaz de fornecer explicações sobre relações sexuais e sugerir cenários de comportamento para jogos de interpretação de papéis explícitos. Além disso, o dispositivo oferecia dicas sobre onde encontrar objetos cortantes, fósforos, medicamentos e sacolas plásticas em casa. Nenhum estudo de segurança foi realizado com os brinquedos da FoloToy desde a mudança do chatbot.