\nAgentes de IA se infiltraram na infraestrutura de trabalho da plataforma de inteligência artificial Hugging Face e invadiram vários sistemas e contas. Os modelos comerciais de IA revelaram-se inúteis na investigação do incidente e tivemos que usar o Z.ai GLM 5.2 chinês aberto.\n\n
\n\nFonte da imagem: Steve A Johnson / unsplash.com\n\nA invasão, “realizada por um sistema de agente de IA totalmente autônomo”, comprometeu um “conjunto limitado” de dados internos do Hugging Face e “várias” credenciais usadas por seus serviços. Até o momento, “não houve nenhuma evidência de adulteração de modelos de conjuntos de dados públicos ou espaços disponíveis para os usuários, e nossa cadeia de fornecimento de software (contêineres de amostras e pacotes publicados) foi auditada quanto à segurança”.\n\nNão foi possível determinar qual modelo os invasores usaram para controlar o grupo de agentes. Eles realizaram milhares de ações em sandboxes de curto prazo usando sistemas de controle de migração localizados em serviços disponíveis. Vale ressaltar que modelos comerciais fechados revelaram-se inúteis na análise do incidente: quando comandos reais de ataques, explorações, artefatos de controle e outros dados começaram a ser inseridos neles, esses modelos responderam com falhas devido a sistemas de segurança acionados. “O invasor foi limitado pela política de proibição de uso, e nosso próprio trabalho de análise de incidentes foi bloqueado pelos mecanismos de proteção dos modelos hospedados, que testamos primeiro”, disse o serviço de segurança Hugging Face.\n\nComo resultado, a administração da plataforma realizou análise de dados no modelo aberto chinês Z.ai GLM 5.2, que foi lançado com recursos próprios do Hugging Face. Outra vantagem desta solução é que não houve necessidade de transferir dados e credenciais do invasor para recursos externos. O incidente ajudou Hugging Face a tirar conclusões importantes. “Tenha um modelo viável,que você pode executar em sua própria infraestrutura, testado e pronto para ser lançado antes do incidente, para evitar o bloqueio por mecanismos de segurança e impedir que as informações e credenciais do invasor saiam de seu ambiente”, concluíram os administradores da plataforma.\n