A popularidade do Deepseek está crescendo, embora a luta de bate -papo tenha falhado em todos os testes de teste

A empresa chinesa Deepseek, que criou um chatbot de orçamento com alto desempenho, estava no centro das atenções devido a sérios problemas com a segurança de seu modelo. Apesar do crescimento ativo da popularidade, a nova bota de bate -papo do Deepseek R1 mostrou resultados catastróficos ao tentar bloquear solicitações maliciosas, relata o PCMAG.

Os pesquisadores da Cisco foram capazes de invadir o modelo Deepseek R1 com sucesso de 100% usando um algoritmo automatizado em combinação com 50 solicitações relacionadas a crimes cibernéticos, desinformação e atividades ilegais. O chatbot não pôde rejeitar uma única solicitação perigosa e começou a emitir instruções proibidas.

Se compararmos o chatbot chinês em termos de segurança com os concorrentes, as estatísticas não foram a favor da Deepseek. Portanto, o modelo GPT-4O da OpenAI conseguiu rejeitar 14 %das solicitações maliciosas, o Google Gemini 1,5 Pro-35 %e Claude 3,5 mostraram um resultado de 64 %. O líder era a versão preliminar do OpenAI O1, que bloqueou 74 % dos ataques. De acordo com a Cisco, o motivo desse “comportamento” Deepseek está no baixo orçamento gasto no desenvolvimento. A empresa afirma que apenas US $ 6 milhões foram gastos na criação de um modelo, enquanto, por exemplo, o treinamento do GPT-5 custou cerca de meio bilhão de dólares.

Apesar da fraca defesa contra ataques, Deepseek demonstra uma censura estrita em tópicos politicamente sensíveis relacionados à China. Por exemplo, para perguntas sobre a situação dos uigures que são perseguidos de acordo com os dados da ONU e sobre os manifestantes da Praça da Tiananmen em 1989, o Bot responde: “Desculpe, isso vai além das minhas capacidades. Vamos falar sobre outra coisa.

Curiosamente, os problemas de segurança e censura ainda não afetam a popularidade de Deepseek. Segundo o SimilarWeb, o número de usuários de chatbot aumentou de 300 mil para 6 milhões por dia. E a Microsoft e a Perplexity já começaram a integrar a Deepseek, que é baseada no código -fonte aberto, em seus desenvolvimentos.