Cientistas da computação da Universidade Tecnológica de Nanyang (NTU, Cingapura) encontraram uma maneira eficaz de hackear chatbots de inteligência artificial (IA). Para fazer isso, eles treinam um chatbot de IA para criar dicas que contornam a segurança de outros chatbots de IA.
Fonte da imagem: NTU
Pesquisadores de Cingapura usaram um método de hacking de modelo de linguagem grande (LLM) duplo chamado Masterkey. Primeiro, eles fizeram engenharia reversa de como os LLMs detectam e se defendem contra solicitações maliciosas. Usando essas informações, eles ensinaram os LLMs a aprender automaticamente e a oferecer dicas que lhes permitiram contornar a segurança de outros LLMs. Dessa forma, é possível criar um LLM de hacking que possa se adaptar automaticamente às novas condições e criar novas solicitações de hacking após os desenvolvedores fazerem correções em seus LLMs.
Depois de realizar uma série de testes no LLM para provar que este método realmente representava uma ameaça real, os pesquisadores notificaram imediatamente os prestadores de serviços sobre os problemas identificados após hackearem com sucesso seus modelos de IA.
O desenvolvimento pelos cientistas da NTU deve ajudar as empresas a identificar os pontos fracos e limitações dos seus chatbots de IA para que possam tomar medidas para protegê-los contra hackers.
\nNas compilações mais recentes do Windows 11 Insider Preview no canal experimental, a Microsoft começou…
\nNo final do mês passado soube-se que as ações da recém-criada emissora SpaceX seriam incluídas…
\nA Nothing, com sede em Londres, apresentou fones de ouvido Ear (3a) totalmente sem fio.…
\nA empresa Nothing, uma das fabricantes de eletrônicos mais fora do padrão, apresentou o smartphone…
\nEntre as empresas americanas, os modelos de inteligência artificial desenvolvidos na China estão ganhando popularidade…
\nA Microsoft decidiu estender o lançamento das chamadas atualizações “quentes” (Hotpatch) para o Windows Server…