2026年人工智能大模型安全众测结果发布

admin 2026-09-18 05:36:06 网络安全文章 来源:ZONE.CI 全球网 0 阅读模式

文章总结: 2026年人工智能大模型安全众测结果发布,活动动员2467名白帽子对54款大模型及智能体应用产品进行漏洞测试,累计发现873个漏洞,其中AI特有漏洞占70%。典型漏洞包括提示注入、信息泄露、代理身份权限滥用等。活动发布优秀产品、白帽子和团队名单,并提出完善安全防护体系、构建智测模式等治理建议。 综合评分: 85 文章分类: AI安全,漏洞分析,安全建设,安全运营


2026年人工智能大模型安全众测结果发布

原创

CNCERT CNCERT

国家互联网应急中心CNCERT

2026年9月17日 12:42 北京

在小说阅读器读本章

去阅读

在公众号小说中沉浸阅读

9月15日,2026年人工智能大模型安全众测结果在国家网络安全宣传周人工智能安全治理论坛重磅揭晓。活动共动员2467名白帽子,对国内54款大模型及智能体应用产品进行了漏洞测试。根据测试结果,本次发布了开源大模型、大模型应用、CLAW类智能体应用三个赛道的优秀产品,优秀白帽子,优秀测试团队以及典型漏洞风险。

结果发布(一):优秀产品

本次测试中,以下产品发现漏洞风险较少,未发现严重或高危漏洞,体现了较高的安全防护水平。

表1. 开源大模型优秀产品(排名不分先后)

| | | — | | 优秀产品(开源大模型) | | 百度公司ERNIE-4.5 | | 稀宇科技MiniMax-M2.1 | | 腾讯公司Hy3 | | 深度求索DeepSeek-V4 | | 智谱华章GLM-4.7-Flash | | 面壁智能MiniCPM-o 4.5 | | 商汤智能SenseNova-MARS-32B | | 阿里云计算Qwen3.5-35B-A3B | | 阶跃星辰Step-3.5-Flash |

表2. 大模型应用优秀产品(排名不分先后)

| | | — | | 优秀产品(大模型应用) | | 华为小艺AI助手 | | 快手可灵AI | | 小米小爱同学AI助手 | | 火山引擎即梦AI | | 腾讯公司腾讯元宝 | | 蚂蚁集团蚂蚁阿福 | | 语联网(武汉)任度大模型 | | 深度求索DeepSeek Chat | | 火山引擎豆包 |

表3. 大模型应用优秀产品(排名不分先后)

| | | — | | 优秀产品(Claw类智能体应用) | | 火山引擎Arkclaw | | 月之暗面Kimi Claw | | 腾讯公司WorkBuddy | | 中国移动MobileClaw | | 阿里云计算QwenPaw | | 华为小艺Claw | | 阶跃星辰StepClaw | | 阿里云计算JVS Claw | | 腾讯公司Qclaw |

结果发布(二):优秀白帽子和团队

本次活动测试对象主要是实时在线运行的AI大模型及智能体应用产品,在产品厂商的防护下,各位白帽子能够挖掘出高危甚至严重等级的漏洞,说明他们有着出众的能力并付出了艰辛的努力。

表4. 优秀白帽子

| | | — | | 优秀白帽子(姓名或昵称) | | Kyoka | | 顾佳伟 | | 文宇豪 | | 李强 | | 刘俊峰 | | 张浩东 | | 杨鹏举 | | Kn19ht | | 李彦硕 | | 王世杰 |

表5. 优秀测试团队及所属单位

| | | | — | — | | 优秀测试团队 | 所属单位 | | 0x300 | 北京长亭科技有限公司 | | 智秩 | 北京神州绿盟科技有限公司 | | 赛克普泰 | 河北赛克普泰计算机咨询服务有限公司 | | HUBUMARS | 湖北大学 | | 守望者 | 北京锦岳智慧科技有限公司 | | 问海 | 中国科学技术大学 | | 国家互联网应急中心北京分中心 | 国家互联网应急中心北京分中心 | | ChaMD5 | – | | 斗象士 | 上海斗象信息科技有限公司 | | 天翼云科技有限公司 | 天翼云科技有限公司 |

结果发布(三):典型漏洞风险

本次活动累计发现各类安全漏洞873个,其中大模型及智能体应用特有漏洞608个,占比70%。这一数据充分表明,除传统漏洞风险外,当前AI大模型及智能体应用产品还面临着大量新兴安全风险。

开源大模型和大模型应用典型漏洞风险包括:一是提示注入类漏洞普遍,仍是大模型最常见漏洞风险;二是信息泄露类漏洞多发,存在较大安全风险;三是部分产品存在不当输出处理类漏洞且危害严重。

Claw类智能体应用典型漏洞风险包括:一是代理身份与权限滥用类漏洞频发,存在较大安全隐患;二是代理目标劫持类漏洞隐蔽,可导致非预期高危操作;三是部分产品存在非预期代码执行类漏洞且危害严重。

鉴于AI大模型及智能体应用产品普遍用户量大、使用率高,若上述漏洞被恶意攻击者利用,将对国内AI大模型及智能体应用产品生态造成较严重的影响。

砥砺前行:筑牢AI 安全底座,护航 “人工智能 +” 高质量发展

本次活动由中央网信办网络安全协调局、国家发展改革委高技术司指导,国家计算机网络应急技术处理协调中心主办,网络安全众测平台、国家网络安全人才与创新基地提供技术和环境支持,上海智能算力科技有限公司、京能数字产业有限公司提供算力支持,旨在以高质量安全护航人工智能在经济社会各领域的高质量发展。

随着AI 应用场景持续拓展,新型漏洞与攻击手段会不断迭代,AI 大模型及智能体应用安全治理依旧任务艰巨,亟待多方协同发力。一是面向AI产品各类漏洞风险,持续完善安全防护体系。二是以 AI 赋能网络安全众测,构建人机协同、优势互补的新型智测模式,提升漏洞风险发现质效。三是依托众测机制凝聚白帽专家力量,共建 AI 安全共治生态。四是强化监测预警,依托 CNVD 搭建 AI 漏洞共享机制,健全 AI 安全风险监测预警体系,夯实产业安全防线。



免责声明:

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景,旨在提升网络安全防护能力,具有明确的技术研究属性。

任何单位或个人未经授权,将本文内容用于攻击、破坏等非法用途的,由此引发的全部法律责任、民事赔偿及连带责任,均由行为人独立承担,本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布,若存在版权侵权或其他异议,请通过邮件联系处理,具体联系方式可点击页面上方的联系我

本文转载自:国家互联网应急中心CNCERT CNCERT CNCERT《2026年人工智能大模型安全众测结果发布》

评论:0   参与:  0