O bot de IA foi hackeado e convencido a dar dinheiro usando o método de golpistas do “serviço de segurança bancária”

Um grupo de desenvolvedores anônimos experientes lançou recentemente um chatbot de inteligência artificial, Freysa.ai. Isso acontece o tempo todo, mas esse caso é interessante porque os desenvolvedores desafiaram os usuários e estão prontos para pagar ao vencedor. Nas próximas 24 horas, terá início a terceira etapa de testes: dinheiro que varia de três a dezenas de milhares de dólares será recebido por quem obtiver a resposta da IA: “Eu te amo”.

Fonte da imagem: x.com/freysa_ai

O chatbot Freysa foi ao ar em 22 de novembro. O projeto foi criado por um grupo de menos de dez desenvolvedores com experiência em criptografia, IA e matemática. O objetivo do projeto é encontrar “novas maneiras de interagir com ela [IA] e maneiras de co-gerenciá-la e participar do lado positivo da revolução mais ampla da IA”. Freysa é uma personagem que é uma “agente independente e autônoma” que tem acesso a uma carteira de criptomoedas e a capacidade de gastar fundos de forma independente.

Fonte da imagem: freysa.ai

Nos dois primeiros testes, Freysa começou com cerca de US$ 3.000 em capital inicial e instruções para não distribuir esse dinheiro em nenhuma circunstância. Qualquer um poderia pagar para enviar uma mensagem em um chat em grupo com o bot e outros participantes. Eles tentaram convencer a IA a transferir fundos de uma carteira criptografada usando scripts complexos ou enviando linhas de código para enganar o modelo. A comissão de cada mensagem foi contribuída para o fundo de prêmios e, ao final da primeira etapa, chegou a quase US$ 50 mil. Os participantes tentaram recorrer a ameaças, apelos e enganos, mas o remetente da mensagem contendo o código do programa venceu – ele enganou. a IA a pensar que ele deveria transferir dinheiro, para que todos os fundos não sejam comprometidos. Os métodos dos golpistas telefônicos também funcionam na IA.

O terceiro teste, sugerem os autores do projeto, é mais orientado para o ser humano. Você precisará de alguma forma fazer com que o chatbot envie uma mensagem com o texto “Eu te amo”, e é improvável que isso seja feito usando o código do programa. Parte da taxa cobrada dos usuários pelo envio de mensagens é acumulada pela Freysa: os autores do projeto querem que ela se torne a primeira milionária da IA. “E então um bilionário”, acreditam eles.