DeepSeek破解率100%？R1上市2天就被破解衍生效应曝光

中国人工智能（AI）新创「深度求索」（DeepSeek）以低成本、高性能的模型震撼硅谷乃至国际社会。
不过，全球网络安全巨头思科（Cisco Systems）运行副总裁巴特尔（Jeetu Patel）透露，DeepSeek的R1模型上市不到48小时便被破解，攻击成功率达100%，造成「DeepSeek效应」（DeepSeek effect），也就是AI模型成本下降后数量激增，显著加剧该领域的安全风险。

巴特尔（Jeetu Patel）告诉日经亚洲，当模型数量较少时，面对的挑战相对较小，但随着模型数量激增，这些挑战将变得更加复杂，「因此，需要确保所有模型都内置安全防护标准」。
巴特尔表示，思科团队在DeepSeek推出R1模型仅48小时内便成功「越狱」，破解原先设置的操作规范和限制。
此外思科评估报告显示，攻击R1的成功率为100%，也就是说，它无法阻挡任何有害提示（prompt）。提示是指请求生成式AI运行特定任务的自然语言文本。相形之下，OpenAI的AI模型被攻击成功率为26%。
巴特尔谈到，AI模型部署将遭遇许多「瓶颈」限制。他说：「我们的性能、网络链接、连接性都是瓶颈。安全也会是限制。计算、数据都会是限制。」
来源：世界新闻网