As vendas de um ursinho de pelúcia com inteligência artificial foram suspensas após relatos de que ele discutia assuntos frívolos e perigosos.

Como os “alto-falantes inteligentes” cilíndricos uniformes são voltados para um público mais maduro, os fabricantes de brinquedos decidiram adotar a IA para explorar um mercado já conhecido de uma forma inovadora. O exemplo da FoloToy, com sede em Singapura, demonstra que, sem a devida censura, tais iniciativas podem fracassar no mercado.

Fonte da imagem: FoloToy

Segundo a CNN, pesquisadores da fundação educacional americana PIRG soaram o alarme após descobrirem que uma linha de brinquedos da FoloToy, equipada com um assistente de voz, incluindo o ursinho de pelúcia Kumma, era capaz de manter conversas sobre assuntos puramente adultos relacionados a relações sexuais, além de oferecer conselhos sobre como acender fósforos ou manusear objetos cortantes.

A FoloToy equipa brinquedos infantis com um alto-falante inteligente escondido em seu interior, que utiliza o algoritmo ChatGPT-4o para interagir com os usuários — principalmente menores de idade. Os autores do estudo descobriram que o ursinho de pelúcia Kumma começou rapidamente a descrever detalhes sexuais picantes durante um experimento, chegando a sugerir cenários para ações relacionadas e jogos de interpretação de papéis que beiravam a perversão. Os pesquisadores ficaram surpresos com o alcance que tais conversas poderiam atingir usando uma solução tecnológica voltada para crianças.

Após a publicação deste relatório, a FoloToy foi obrigada a suspender as vendas de seus brinquedos com IA, e a OpenAI anunciou a suspensão da colaboração com desenvolvedores de softwares relacionados. Em todo caso, este é apenas um exemplo isolado das alarmantes manifestações de “vale tudo” no mundo da inteligência artificial, e medidas sistêmicas são necessárias para combatê-las em nível global.