Presidente da Signal defende implementação gradual de IA em aplicativos de mensagens (3DNews)

Embora a maioria das empresas de tecnologia esteja buscando expandir o uso de tecnologias de IA e acelerar a implantação de agentes de IA, a presidente da Signal, Meredith Whittaker, sente a necessidade de alertar sobre os riscos associados ao desenvolvimento de IA.

Fonte da imagem: Steve Johnson/unsplash.com

Em entrevista à Fortune, Whittaker afirmou que a ascensão dos agentes de IA representa uma “ameaça existencial” não apenas para aplicativos de mensagens seguras como o Signal, mas também para qualquer pessoa que desenvolva aplicativos para celulares ou computadores.

Ela acredita que a pressa das gigantes da tecnologia em implementar IA, particularmente IA baseada em agentes, aumenta os riscos de segurança na internet, superando em muito os benefícios potenciais de seu uso.

Para executar tarefas em nome dos usuários, os agentes de IA precisam acessar suas informações confidenciais, incluindo dados bancários e senhas. No entanto, isso cria uma vasta superfície de ataque que cibercriminosos ou agências de inteligência podem explorar para roubar informações pessoais ou corporativas sensíveis.

Os agentes de IA são particularmente vulneráveis ​​a ataques de injeção de prompts, nos quais sites maliciosos contêm instruções ocultas que enganam a IA para que ela execute ações maliciosas. Como os navegadores da web com IA podem ler e manipular conteúdo da web, os invasores podem explorar vulnerabilidades da IA ​​para roubar e-mails, acessar contas, exfiltrar dados, sobrescrever áreas de transferência e redirecionar usuários para sites de phishing.

“O trabalho do agente é executar tarefas complexas em seu nome, usando múltiplas fontes de dados para isso”, disse Meredith Whittaker à Fortune à margem da conferência de tecnologia Slush em Helsinque, Finlândia, na semana passada. “Isso exige”O acesso aos seus contatos e mensagens no Signal… esse acesso é um vetor de ataque que efetivamente anula o propósito da nossa existência.”

O Signal é popular entre jornalistas e políticos devido à sua ênfase em privacidade e segurança, com suporte para criptografia de ponta a ponta e coleta mínima de dados. Se agentes de IA obtiverem acesso irrestrito a essas mensagens por meio do sistema operacional no qual o Signal é executado, os invasores poderão explorar essa nova vulnerabilidade.

“A integração de agentes no nível do sistema operacional é extremamente imprudente e não leva em consideração os fundamentos da segurança cibernética e da privacidade”, afirma Whittaker. “Essa é uma decisão arquitetônica muito, muito perigosa que compromete não apenas o Signal, mas também a capacidade de desenvolver com segurança no nível do aplicativo e a capacidade de construir uma infraestrutura segura e coerente.”

Whittaker também criticou os esforços do WhatsApp da Meta✴ e do Facebook✴Messenger para incorporar recursos de IA em seus aplicativos de mensagens. “Ninguém quer IA em seus aplicativos de mensagens.” “É realmente irritante”, disse ela. “Quando se analisa o benefício para o consumidor, não me parece totalmente claro que a troca seja justificada… Para que estamos, afinal, otimizando essas conveniências entediantes?”