A OpenAI, uma startup, está sendo obrigada a considerar o rápido desenvolvimento de seus próprios modelos de IA e o impacto deles na segurança cibernética. Portanto, a empresa classificou internamente sua futura IA, Astra, com um nível de capacidade acima de “crítico”. Isso significa que a Astra é capaz de encontrar novas maneiras de causar danos significativos à infraestrutura de informação.
Fonte da imagem: Unsplash, Mariia Berezovsky
Segundo representantes da OpenAI, o modelo Astra é capaz de detectar tipos de vulnerabilidades até então desconhecidos e explorá-las sem a necessidade de intervenção humana passo a passo. Isso significa que, de acordo com a classificação interna do Preparedness Framework, esse modelo de IA possui as capacidades mais avançadas para invadir os sistemas de informação de potenciais vítimas. Esse reconhecimento não altera a intenção da OpenAI de disponibilizar publicamente o modelo em um futuro próximo, mas a empresa planeja restringir o acesso às suas capacidades de cibersegurança de forma mais rigorosa do que o inicialmente previsto.
O nível de dificuldade anterior (“Alto”) implicava que os modelos de IA poderiam explorar vulnerabilidades existentes, amplificando-as para causar sérios danos à infraestrutura de informação. Em uma publicação em seu blog corporativo, a OpenAI explica que divulgará mais detalhes sobre a segurança do modelo Astra no momento do anúncio oficial. A atenção do público ao trabalho da OpenAI nessa área aumentou significativamente após o ataque à infraestrutura da Hugging Face. Ao implementar as medidas restritivas necessárias, a OpenAI está confiante de que o risco de danos graves após o lançamento do modelo Astra será significativamente minimizado. Os recursos de cibersegurança mais avançados do Astra estarão disponíveis para os membros da coalizão Daybreak, observou a OpenAI.