Especialistas em segurança cibernética da Macquarie University (Austrália) desenvolveram o Apate, um chatbot baseado em IA treinado para se passar por uma pessoa em uma conversa com golpistas por telefone, e seu objetivo é manter o interlocutor na linha o maior tempo possível.
Fonte da imagem: Sam Williams / pixabay.com
A ideia de lançar o projeto surgiu quando seu líder, o professor Dali Kaafar, recebeu uma ligação de golpistas telefônicos, e o cientista os manteve na linha por 40 minutos, entretendo as crianças na hora do almoço. O professor decidiu que esse processo poderia ser automatizado com a ajuda de IA, conectando modelos de processamento de linguagem natural e criando um chatbot que poderia se passar por uma pessoa e conduzir uma conversa telefônica com um golpista. O projeto recebeu o nome Apate em homenagem a Apata, a antiga deusa grega da mentira e do engano.
O projeto é baseado em um modelo de linguagem semelhante ao ChatGPT, ao qual está conectado o sistema de clonagem de voz. Apate foi treinado em textos de interações reais com golpistas: em transcrições de conversas telefônicas, bem como em correspondência por e-mail e em redes sociais. O chatbot foi testado em chamadas reais de golpistas. Para fazer isso, os cientistas decidiram provocá-los comprando vários números de telefone, que começaram a colocar deliberadamente em sites duvidosos da Internet.
O objetivo do projeto é manter o interlocutor na linha por 40 minutos sem um resultado concreto – é muito tempo, e um grande número dessas conversas pode abalar o “modelo de negócios” dos criminosos. No entanto, enquanto o tempo médio de diálogo com Apate é de apenas 5 minutos. Em vários casos, a IA também surpreendeu seus criadores – mostrou bastante desenvoltura em situações incomuns, quando golpistas solicitavam informações que não estavam nos materiais de treinamento.
Os próprios representantes do submundo agora estão implementando ativamente a IA, usando tecnologias de clonagem de voz e deepfakes. Portanto, o projeto Apate é uma espécie de resposta simétrica a soluções avançadas de golpistas. Os cientistas sugerem que esses chatbots podem ser implementados por operadoras de telefonia.