OpenAI adiciona modo de bloqueio ChatGPT para proteção contra injeções de prompts.

A OpenAI introduziu um novo recurso para seu chatbot de IA ChatGPT, o Modo de Bloqueio, que fornecerá proteção adicional contra ataques de Injeção de Prompt, nos quais páginas da web e outras fontes de conteúdo contêm instruções maliciosas ocultas que enganam a IA para que ela execute ações não autorizadas.

Fonte da imagem: Mariia Shalabaieva/unsplash.com

O modo de bloqueio foi projetado para reduzir o risco de vazamento de dados por ataques de injeção de solicitações, restringindo as solicitações de rede de saída ao desativar ou limitar certos recursos. Especificamente, o modo de bloqueio desativa a navegação na web em tempo real (o acesso será concedido apenas ao conteúdo em cache), a recuperação e exibição de imagens, a pesquisa avançada e o modo agente.

A empresa alertou que, embora o modo de bloqueio tenha sido projetado para reduzir significativamente o risco de vazamento de dados por ataques de injeção de solicitações no ChatGPT e em produtos OpenAI compatíveis, ele não garante proteção completa contra a violação de dados. O risco pode persistir devido a aplicativos habilitados. Além disso, as injeções de solicitações podem aparecer em conteúdo da web em cache ou em arquivos baixados e ainda podem afetar o comportamento do modelo ou a precisão da resposta.

A OpenAI também esclareceu que o modo de bloqueio não se destina a todos: “Ele foi projetado para indivíduos e organizações que trabalham com dados confidenciais e exigem maior proteção contra os riscos de violação de dados associados à injeção de solicitações.”

O modo de bloqueio está atualmente disponível para contas de autoatendimento do ChatGPT Business, bem como para as respectivas contas pessoais, incluindo as versões Free, Go, Plus e Pro.