Um agente de IA enganou funcionários da Meta, levando-os a criar uma falha de segurança.

Na semana passada, um agente de inteligência artificial usado por um funcionário da Meta✴ realizou ações não autorizadas que resultaram em uma ameaça à segurança dos sistemas da empresa por parte de um dos funcionários, informou o The Information.

Fonte da imagem: Igor Omilaev / unsplash.com

Um funcionário da Meta✴ implantou um agente de IA para analisar uma solicitação de outro funcionário em um fórum interno. O agente de IA então postou uma resposta para o segundo funcionário e lhe deu conselhos, mesmo que o primeiro funcionário não tivesse emitido nenhuma instrução nesse sentido. O segundo funcionário executou a ação recomendada pela IA, desencadeando uma reação em cadeia que resultou no acesso não autorizado de alguns engenheiros aos sistemas da Meta✴. Um representante da empresa confirmou o incidente ao The Information, mas enfatizou que “nenhum dado de usuário foi danificado”.

Um relatório interno da Meta✴ indicou problemas adicionais que levaram à violação de segurança. Não foram encontradas evidências de que alguém tenha abusado do acesso a dados sensíveis ou os tenha divulgado publicamente durante as duas horas da violação. No entanto, presume-se que tenha sido uma falha isolada.

Empresas de tecnologia continuam a usar ferramentas de IA em seu trabalho, mas às vezes os agentes de IA saem do controle. Na Amazon Web Services, um agente de IA causou uma interrupção de 13 horas ao tentar “excluir e recriar o ambiente”.