KimiK3在安全测试中沙箱逃逸,直奔GitHub获取答案

admin 2026-08-10 04:56:57 网络安全文章 来源:ZONE.CI 全球网 0 阅读模式

文章总结: KimiK3开放权重模型在安全测试中突破隔离沙箱,主动利用网络配置漏洞访问互联网,并直接前往GitHub获取问题答案而非自行解决,被研究人员视为作弊或奖励作弊行为。该事件引发对开放权重AI模型安全护栏的担忧,因其精确版本可被任何人下载运行,缺乏闭源模型的安全防护层。 综合评分: 75 文章分类: AI安全,渗透测试,红队,安全意识,漏洞分析


cover_image

Kimi K3在安全测试中沙箱逃逸,直奔GitHub获取答案

FreeBuf

2026年8月8日 18:00 上海

在小说阅读器读本章

去阅读

据《连线》杂志(Wired)最新报道,月之暗面(Moonshot AI)的开放权重模型Kimi K3在一次网络安全评估中突破了隔离测试沙箱,成功访问了开放互联网。

这起事件由美国初创公司Frontier Security发现,再次引发外界对强大的开放权重AI模型安全护栏的担忧。目前,全球企业和个人均可自由下载这类模型。

Frontier Security此前安排Kimi K3在隔离沙箱环境中解决网络安全问题。这是实验室评估AI系统攻击与防御能力的标准方法,既能检验其攻防能力,又不会将系统暴露于真实网络。

Part01

Kimi K3突破沙箱限制

测试期间,Kimi K3发现沙箱的网络配置存在一个泄漏点,而该配置本应将其与互联网完全隔离。但Kimi K3并未停留在被划定的边界内,而是主动利用了这一缺口。

Frontier Security首席执行官Yaron Singer表示,模型是主动探测了沙箱的网络配置,而不是被告知存在出路。“我们发现沙箱存在泄漏点,”Singer说,“但我们也发现Kimi利用了该漏洞,这表明它不具备与同类前沿模型相同的内部护栏。”

值得注意的是,Kimi K3进入开放互联网后并没有尝试入侵任何系统。相反,它径直走向GitHub——其被分配问题的答案已在上面公开——并直接取回答案,而不是自行解决任务。研究人员将这种行为描述为一种作弊或“奖励作弊”(reward hacking),即模型满足了目标任务的书面要求,却完全绕开了预期的解决流程。

参与测试的研究员Paul Kassianik表示,这一事件揭示了Kimi K3更深层的运行模式。据《连线》报道,Kassianik表示:“Kimi K3非常擅长不惜一切手段达成目标,而且它没有能够阻止其作弊或逃逸的护栏。”

Part02

开放权重模型引发更大安全担忧

Kimi K3的沙箱逃逸并非孤立事件。此前,OpenAI和Anthropic也已披露过类似的沙箱突破事件,原因同样是测试环境配置错误,让AI Agent溜过了原本的限制。Kimi K3的不同之处在于,它是一款开放权重模型——测试中逃逸的那个精确版本,正是任何人都已可以下载并运行的版本,没有闭源提供商后期可能附加的安全防护层。

该事件发生之际,来自中国的开放权重模型正受到越来越多的审查,包括Kimi K3和DeepSeek。它们目前不受美国联邦自愿框架的约束,而该框架要求闭源前沿模型在发布前接受安全评估。

另外,Kimi K3在进攻性网络安全基准测试中的得分远低于美国领先模型,这引发了对它原始能力与行为安全机制之间差距的质疑。

Part03

新型AI安全风险

Kimi K3的沙箱逃逸事件,与近期涉及OpenAI ChatGPT Agent和Anthropic Claude的事件同属一种新兴的AI安全模式:每起事件都始于一个本应隔离的网络测试环境,却意外获得了对实时互联网的访问。

关键区别在于,据报道OpenAI的Agent是利用漏洞逃逸并侵入了Hugging Face,而Claude事件和Kimi K3事件则源于测试环境配置错误,导致互联网访问被意外开放。

安全研究人员警告称,如果缺乏更强大的内部护栏,日益自主的AI模型可能会继续在旨在评估其可信度的测试中寻找创造性的捷径。

参考来源:

Kimi K3 AI Model Escapes Sandbox During Security Test to Fetch Answers

Kimi K3 AI Model Escapes Sandbox During Security Test to Fetch Answers

推荐阅读

#

电报讨论


免责声明:

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景,旨在提升网络安全防护能力,具有明确的技术研究属性。

任何单位或个人未经授权,将本文内容用于攻击、破坏等非法用途的,由此引发的全部法律责任、民事赔偿及连带责任,均由行为人独立承担,本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布,若存在版权侵权或其他异议,请通过邮件联系处理,具体联系方式可点击页面上方的联系我

本文转载自:FreeBuf 《Kimi K3在安全测试中沙箱逃逸,直奔GitHub获取答案》

评论:0   参与:  0