Cloudflare protegerá IA com IA

A Cloudflare está desenvolvendo seu próprio firewall para modelos generativos de IA para protegê-los de possíveis ataques cibernéticos ou outras ameaças maliciosas. Além de suportar padrões modernos de segurança de rede, o firewall usará uma rede neural para analisar solicitações enviadas por usuários de IA generativa para tentar detectar antecipadamente possíveis explorações.

Fonte da imagem: blog.cloudflare.com

«Algumas vulnerabilidades que afetam aplicativos tradicionais da Web e API também são aplicáveis ​​ao mundo do LLM (grandes modelos de linguagem), incluindo injeção ou roubo de dados, disse Daniele Molteni, gerente de produto do Grupo Cloudflare. “No entanto, há um novo conjunto de ameaças que agora são relevantes devido à forma como os programas LLM operam.”

A entrada do usuário em sites e ferramentas de IA será primeiro filtrada pela Cloudflare antes de chegar à própria IA generativa. O firewall também será capaz de interromper solicitações generativas de IA e verificá-las em busca de ameaças potenciais. Os dados enviados para modelos públicos de IA, como ChatGPT ou Claude, podem ser acessados ​​por praticamente qualquer pessoa, portanto, o firewall da Cloudflare filtrará as solicitações dos usuários em busca de informações potencialmente confidenciais.

O firewall de IA da Cloudflare também pode censurar a entrada do usuário de outras maneiras. O firewall está sendo projetado para evitar que os modelos de IA sejam “manipulados” com entradas que possam causar alucinações no modelo e outras respostas falsas ou perigosas.

Os clientes também poderão “bloquear solicitações que se enquadram em categorias inadequadas” se tiverem preocupações de que tais solicitações possam resultar no uso de “linguagem tóxica, ofensiva ou problemática” pela IA, de acordo com a Cloudflare. Embora a empresa chame esses casos de exemplos de “ataques de injeção rápida”, não está claro até que ponto as solicitações genuínas dos usuários serão censuradas.

Esta semana, a Cloudflare também revelou seu serviço Defensive AI para empresas, que usa redes neurais para analisar sites em busca de possíveis ameaças baseadas em IA.