Especialistas em segurança cibernética da Macquarie University (Austrália) desenvolveram o Apate, um chatbot baseado em IA treinado para se passar por uma pessoa em uma conversa com golpistas por telefone, e seu objetivo é manter o interlocutor na linha o maior tempo possível.
Fonte da imagem: Sam Williams / pixabay.com
A ideia de lançar o projeto surgiu quando seu líder, o professor Dali Kaafar, recebeu uma ligação de golpistas telefônicos, e o cientista os manteve na linha por 40 minutos, entretendo as crianças na hora do almoço. O professor decidiu que esse processo poderia ser automatizado com a ajuda de IA, conectando modelos de processamento de linguagem natural e criando um chatbot que poderia se passar por uma pessoa e conduzir uma conversa telefônica com um golpista. O projeto recebeu o nome Apate em homenagem a Apata, a antiga deusa grega da mentira e do engano.
O projeto é baseado em um modelo de linguagem semelhante ao ChatGPT, ao qual está conectado o sistema de clonagem de voz. Apate foi treinado em textos de interações reais com golpistas: em transcrições de conversas telefônicas, bem como em correspondência por e-mail e em redes sociais. O chatbot foi testado em chamadas reais de golpistas. Para fazer isso, os cientistas decidiram provocá-los comprando vários números de telefone, que começaram a colocar deliberadamente em sites duvidosos da Internet.
O objetivo do projeto é manter o interlocutor na linha por 40 minutos sem um resultado concreto – é muito tempo, e um grande número dessas conversas pode abalar o “modelo de negócios” dos criminosos. No entanto, enquanto o tempo médio de diálogo com Apate é de apenas 5 minutos. Em vários casos, a IA também surpreendeu seus criadores – mostrou bastante desenvoltura em situações incomuns, quando golpistas solicitavam informações que não estavam nos materiais de treinamento.
Os próprios representantes do submundo agora estão implementando ativamente a IA, usando tecnologias de clonagem de voz e deepfakes. Portanto, o projeto Apate é uma espécie de resposta simétrica a soluções avançadas de golpistas. Os cientistas sugerem que esses chatbots podem ser implementados por operadoras de telefonia.
O Dr. John Goodenough, mais conhecido como o criador das baterias de íons de lítio,…
Para os funcionários do Congresso dos EUA, existem várias restrições ao uso do ChatGPT. Você…
No outro dia, a NASA anunciou que o projeto X-57 Maxwell será encerrado sem testes…
Tablets Android usando E Ink não são muito comuns, mas novos modelos são lançados de…
Insiders divulgaram mais imagens e especificações dos smartphones dobráveis Samsung Galaxy Z Flip5 e Galaxy…
Parece que a atualização de junho para smartphones da família Google Pixel levou a um…