O ChatGPT começou a recomendar lojas falsas e fraudulentas, e os usuários perderam dinheiro.

O ChatGPT começou a oferecer aos usuários links para lojas online falsas criadas por golpistas e a informá-los sobre produtos que nunca existiram, segundo reportagem do The Guardian, citando o serviço de detecção de fraudes Ask Silver.

Fonte da imagem: Andras Vas / unsplash.com

Ao pesquisar, os usuários do ChatGPT clicaram em links para sites que pareciam ser lojas online de marcas populares, como a fabricante de calçados e acessórios Russell & Bromley e a rede de artigos para o lar Dunelm. Aqueles que compraram nesses sites falsos perderam seu dinheiro e tiveram suas informações de pagamento comprometidas. Um dos motivos para o incidente foi o fato de a Russell & Bromley ter deixado de existir como varejista independente — em janeiro, entrou em processo de recuperação judicial e foi adquirida pela Next. Os fraudadores preencheram o vácuo deixado pelo site original da marca, já que as pessoas continuaram a procurá-lo.

Durante os ataques, os golpistas empregaram uma técnica chamada “envenenamento por IA”, na qual os atacantes publicam informações e páginas falsas que imitam o design de sites legítimos. Grandes modelos de linguagem indexam esses sites fraudulentos, facilitando inadvertidamente atividades ilegais e apresentando falsificações como genuínas. Especialistas alertam que as pessoas não devem confiar em recomendações apenas porque vêm de um chatbot de IA: os criminosos se adaptam rapidamente a novas tecnologias e exploram qualquer canal que possa levar vítimas em potencial até eles.

Os sinais de golpistas permanecem os mesmos: descontos exorbitantes, endereços de sites estranhos, informações de contato incorretas e pedidos de transferência bancária. Especialistas recomendam o uso de outros métodos para identificar os endereços dos varejistas, em vez de confiar em links gerados por IA. A OpenAI removeu alguns dos links de sites.que receberam reclamações, mas o problema não desapareceu: as pessoas estão usando cada vez mais IA, o que significa que são necessárias medidas de proteção ao consumidor mais robustas.