Um agente de IA no Windows 11 poderá baixar vírus, alertou a Microsoft ao 3DNews.

A Microsoft emitiu um alerta importante sobre os recursos de IA que chegarão em breve ao Windows 11: os usuários são aconselhados a habilitar o recurso somente se “compreenderem as implicações de segurança” e, devido a possíveis ameaças, ele estará desabilitado por padrão.

Fonte da imagem: Windows / unsplash.com

A Microsoft pretende transformar o Windows 11 em um sistema operacional com agentes de IA aprimorados. Embora essa iniciativa não seja unanimemente aceita pela comunidade de usuários, a empresa está avançando firmemente com sua visão e está prestes a lançar os primeiros recursos completos de agentes de IA na plataforma. “Essa configuração só pode ser habilitada por um administrador do dispositivo e, uma vez habilitada, estará disponível para todos os usuários do dispositivo, incluindo outros administradores e usuários comuns”, observa a empresa.

Quando o agente de IA está ativo, ele tem acesso limitado à pasta de perfil do usuário (C:\Users\nome_de_usuário\\), bem como às pastas padrão de downloads, documentos, imagens, vídeos, músicas e área de trabalho. No entanto, para o trabalho, ele acessa seu próprio espaço de trabalho — um ambiente de área de trabalho seguro, mas com acesso aos softwares e arquivos do usuário. Isso acarreta certos riscos. “Os aplicativos de IA criam novas ameaças à segurança, como a injeção de consulta cruzada (XPIA), na qual conteúdo malicioso incorporado na interface do usuário ou em documentos pode substituir as instruções do agente, levando a ações indesejadas, incluindo roubo de dados ou instalação de malware”, alerta a Microsoft.

Diante dessa ameaça, a empresa delineou uma série de princípios que pretende seguir ao desenvolver agentes no Windows, incluindo garantir visibilidade constante das ferramentas de IA e exigir a aprovação do usuário para quaisquer decisões de IA. “Os agentes devem ser capazes de criar ações que os descrevam.””Registros. O Windows deve ser capaz de auditar essas ações usando um registro de auditoria à prova de adulteração”, observa o desenvolvedor.

As primeiras versões de pré-visualização do Windows 11 foram disponibilizadas para testadores ontem, embora os aplicativos ainda não sejam compatíveis com esse recurso. Em breve, o assistente de IA Copilot poderá operar no espaço de trabalho do agente, seguido por outros aplicativos de IA.