A Cloudflare está desenvolvendo seu próprio firewall para modelos generativos de IA para protegê-los de possíveis ataques cibernéticos ou outras ameaças maliciosas. Além de suportar padrões modernos de segurança de rede, o firewall usará uma rede neural para analisar solicitações enviadas por usuários de IA generativa para tentar detectar antecipadamente possíveis explorações.
Fonte da imagem: blog.cloudflare.com
«Algumas vulnerabilidades que afetam aplicativos tradicionais da Web e API também são aplicáveis ao mundo do LLM (grandes modelos de linguagem), incluindo injeção ou roubo de dados, disse Daniele Molteni, gerente de produto do Grupo Cloudflare. “No entanto, há um novo conjunto de ameaças que agora são relevantes devido à forma como os programas LLM operam.”
A entrada do usuário em sites e ferramentas de IA será primeiro filtrada pela Cloudflare antes de chegar à própria IA generativa. O firewall também será capaz de interromper solicitações generativas de IA e verificá-las em busca de ameaças potenciais. Os dados enviados para modelos públicos de IA, como ChatGPT ou Claude, podem ser acessados por praticamente qualquer pessoa, portanto, o firewall da Cloudflare filtrará as solicitações dos usuários em busca de informações potencialmente confidenciais.
O firewall de IA da Cloudflare também pode censurar a entrada do usuário de outras maneiras. O firewall está sendo projetado para evitar que os modelos de IA sejam “manipulados” com entradas que possam causar alucinações no modelo e outras respostas falsas ou perigosas.
Os clientes também poderão “bloquear solicitações que se enquadram em categorias inadequadas” se tiverem preocupações de que tais solicitações possam resultar no uso de “linguagem tóxica, ofensiva ou problemática” pela IA, de acordo com a Cloudflare. Embora a empresa chame esses casos de exemplos de “ataques de injeção rápida”, não está claro até que ponto as solicitações genuínas dos usuários serão censuradas.
Esta semana, a Cloudflare também revelou seu serviço Defensive AI para empresas, que usa redes neurais para analisar sites em busca de possíveis ameaças baseadas em IA.
Ghost of Tsushima, de ação e aventura de mundo aberto da Sucker Punch Productions, parece…
A Arctic lançou uma série de sistemas de refrigeração a ar Freezer 36 para processadores…
A Deutsche Welle relata que a produção na única fábrica da Tesla na Europa, perto…
A NVIDIA parou de fornecer processadores gráficos Turing para placas de vídeo da série GeForce…
Na noite de terça-feira, surgiram problemas não apenas com as maiores redes sociais do mundo,…
O Google revelou um novo pacote de melhorias para seus serviços antes da entrada em…