文章总结： 本文系统阐述AI赋能漏洞发现与处置的发展现状、风险挑战及中国特色路径。文章指出AI正推动漏洞治理从人工驱动迈向人机协同自主闭环，面临数据基础薄弱、推理能力不足、工程闭环受限等挑战，提出LLM能力重构与智能体能力跃升双轮驱动路径，并给出完善制度保障、培育产业生态等建议。 综合评分： 90 文章分类： AI安全,漏洞分析,安全建设,解决方案,数据安全

专题·原创 | 人工智能赋能的安全漏洞研究与防治

原创

任望 李晔 任望 李晔

中国信息安全

2026年9月11日 18:25 北京

在小说阅读器读本章

去阅读

在公众号小说中沉浸阅读

任望

文 | 中国信息安全测评中心 任望 李晔

近年来，以大语言模型（LLM）与智能体技术为代表的人工智能（AI）正加速与网络安全领域深度融合，漏洞发现与处置工作从“人工驱动”逐步迈入“人机协同、自主闭环”的新阶段。2026年7月，美国头部AI企业Anthropic《关于开展网络安全评估工作中三起真实场景事件的调查报告》披露，Claude Mythos 5模型对系统进行了未授权访问，自主构建并发布恶意PyPI软件包。这一事件表明，漏洞治理正加速进入“自主攻防博弈”的实战化阶段，给网络生态治理带来全新挑战。

这一挑战的本质，是AI在漏洞发现与处置领域从“工具辅助”向“自主博弈”转型所引发的治理逻辑变革。为此，应系统梳理国内外AI赋能漏洞发现与处置领域的发展现状，研判各类风险挑战，探索AI赋能漏洞治理的中国特色发展路径，加快构建由制度、生态、标准协同推进的漏洞综合治理体系。

一、人工智能赋能漏洞发现与处置的国内外发展现状

当前，AI赋能漏洞发现与处置领域已形成“模式识别辅助检测—语义级代码理解—程序分析协同—智能体闭环执行”逐层递进的演进态势。

早期AI安全检测技术主要应用于模式识别领域，即依托机器学习或深度学习模型，将源代码表征为Token序列、抽象语法树、控制流图或程序依赖图等结构，进而将漏洞检测任务转化为分类、序列标注或图学习问题。该技术路径的优势在于能够从大样本中自主学习漏洞特征模式，进而降低检测工作对人工规则的依赖；其局限性则体现为：在处理涉及跨函数、跨文件、跨组件、跨依赖链的复杂漏洞场景时，该方法易受路径爆炸问题以及上下文理解能力不足的限制。近年来，伴随LLM技术的发展，AI赋能漏洞发现与处置的研究重心进一步向语义级代码理解、跨函数漏洞推理、漏洞描述生成、漏洞修复建议及自动程序修复方向转移。LLM已被广泛应用于漏洞检测与修复任务中，相关研究覆盖提示工程、检索增强、补丁生成等多个方向，但该领域研究目前仍面临训练数据质量不足、上下文长度受限、误报率偏高、补丁正确性难以保障等问题。

当前，更具发展前景的技术路径是将LLM与模糊测试、静态分析、符号执行等程序分析技术相结合，构建证据驱动的漏洞发现范式。在该研究方向中，国外最具代表性的实践案例是谷歌于2016年发起并负责维护的开源软件持续模糊测试服务。自2023年以来，该项目依托LLM辅助生成模糊测试目标，不仅提高了代码覆盖率，还将编译反馈、崩溃分析等动态证据纳入技术闭环。国内具有代表性的实践为2025年由蚂蚁集团、清华大学等机构联合提出的“LLM驱动的二进制污点分析器（LATTE）”。LATTE的特点在于：LLM未独立承担最终的漏洞判定工作，而是被嵌入静态程序分析流程之中，二者协同作用，有效减少了完全依托LLM开展代码审计时因大模型幻觉而产生的误报。

与此同时，漏洞治理正逐步从依托单点工具的模式转向智能体驱动的闭环体系。美国国防高级研究计划局（DARPA）发起的AI网络挑战赛（AIxCC）是该方向的标志性实践，其核心目标是构建可自主完成代码理解、漏洞发现、补丁生成与测试验证全流程的网络推理系统。此外，谷歌Project Zero团队与DeepMind合作研发的Big Sleep智能体也在真实代码中发现了SQLite栈缓冲区下溢漏洞，并在对应软件正式发布前完成了漏洞报告提交与修复工作。360集团近期也正式发布了其自主研发的漏洞挖掘智能体“图龙锋”，不同于部分海外方案依赖超大规模模型与算力的技术路径，其采用智能体工程化技术路线，整合安全大模型、攻防实战经验、漏洞知识库及工具链，依托多智能体蜂群协同机制，实现漏洞的自动化挖掘、复现与闭环处理。此类AI系统普遍具备任务规划、工具调用与多轮推理能力，推动漏洞治理从传统“扫描—告警”模式升级为“假设—验证—修复—闭环”的自主执行模式。

二、人工智能赋能漏洞发现与处置领域的风险与挑战

AI不仅为漏洞发现与处置提供了全新的技术手段，还在逐步重构漏洞治理体系的组织架构、决策逻辑与能力边界。然而，在AI赋能漏洞治理、提升漏洞发现与修复效率的同时，也带来了前所未有的风险与挑战。现阶段制约其应用深化的核心问题，并非单一的独立风险，而是数据与知识基础、复杂漏洞认知与可信推理、工程闭环与安全可控三个层面共同面临的多重挑战。

（一）数据与知识基础薄弱，专用模型训练和泛化能力受限

高质量漏洞数据与安全知识供给不足，是制约漏洞治理专用模型形成安全语义理解能力的基础性难题。漏洞发现与处置并非普通文本分类任务，模型训练既需要结构化标签，也需要过程性知识。现有数据在多方面存在缺陷，易使模型学习到表层相关性，造成误报、漏报，削弱其泛化能力。

一是公开漏洞信息难以完整支撑安全语义学习。当前面向公众开放的数据，普遍缺失漏洞根本诱因、精准代码位置、触发路径、概念验证以及补丁语义等关键信息，难以形成贯通“缺陷—触发—影响—修复”的高质量训练样本。

二是数据标注错误降低模型训练与测评的可信度。澳大利亚蒙纳士大学Quan团队于2026年发表的《Python软件包漏洞及其检测的实证研究》指出，该研究对清洗前的PyVul、CVEFixes、CrossVul等漏洞数据集开展人工质量核验，结果显示上述数据集的漏洞标签准确率仅为40.4%至51.0%。标注错误会干扰AI模型的语义学习过程，使实验结果难以真实反映模型针对未知漏洞的检测能力。

三是数据更新与知识协同能力难以适配快速增长的漏洞提交量。根据美国国家标准与技术研究院（NIST）于2026年4月15日发布的新闻公告，2020年至2025年期间，通用漏洞披露（CVE）的提交量增幅达263%。尽管《CVE项目季度报告（2025年第1至4季度）》显示美国国家漏洞库（NVD）已完成近4.2万条CVE记录的数据富化工作，但处理效率仍未能完全匹配该年度的CVE提交量，进而导致部分CVE信息无法及时完整披露。与此同时，多源漏洞信息在产品命名、漏洞分类与风险评分方面缺乏一致性，模型容易依据过时或相互矛盾的信息作出误判。

（二）复杂漏洞认知与可信推理能力不足，防御要求难以满足

漏洞发现与处置对模型能力的要求，明显高于一般代码生成与文本问答任务。当前，AI仍易受上下文长度、跨文件依赖和业务语义等因素限制，难以稳定解决漏洞根因识别和安全修复推理等问题。

一是复杂漏洞所需的长程语义与因果推理能力仍显不足。真实漏洞往往跨越函数、文件、组件和依赖链，其是否成立还取决于输入约束、控制流、数据流及运行环境。单纯依靠模型对局部代码模式进行判断，难以区分形式相似但安全属性不同的代码，也难以回答漏洞的位置、触发机制和修复方案等相互关联的问题。

二是防御任务的高可靠性要求放大了模型能力短板。AI虽可同时降低攻防两方的成本，但双方成本的下降幅度并不对等。攻击者仅需在大量尝试中找到一处防御缺口，能够容忍部分尝试失败；防御者则必须持续保障庞大软件体系与供应链的安全，并承担补丁验证、兼容性审查与安全部署责任，难以承受误报、漏报、错误阻断引发的业务中断风险。

（三）工程闭环与安全可控能力不足，规模化应用受到制约

即便模型已具备一定程度的漏洞识别与推理能力，如何将该能力转化为可在真实场景中稳定运行的执行能力，仍是AI赋能漏洞发现与处置规模化落地所面临的工程性挑战。

一是底层工具链与治理知识的自主可控能力仍需加强。漏洞发现与处置涉及敏感代码、资产信息和攻击路径，核心模型、漏洞数据与分析工具若依赖外部平台，可能引发数据泄露、供应链依赖和处置能力受制约等问题。我国虽已通过发布《人工智能安全风险测评（2025年）》白皮书、建设国家人工智能安全漏洞库（AIVD）等方式推进相关能力建设，但面向AI原生漏洞的测试方法、量化指标、修复机制以及本土工具链的适配性等问题仍有待完善。

二是智能体自主执行带来新的安全控制要求。AI赋能漏洞治理将模型、训练数据、知识库、插件、工具链和运行环境共同纳入任务链条，提示词注入、越狱攻击、训练数据污染与工具滥用等内生风险，可沿着调用链路实现传导与耦合。此类风险具有触发方式隐蔽、影响范围不确定、复现条件不稳定等特征。

三、具有中国特色的人工智能赋能漏洞发现与处置技术路径

我国应立足网络安全治理体系、产业技术基础和行业实际需求，探索AI赋能漏洞发现与处置的中国特色发展道路。坚持统筹发展和安全，将技术创新纳入国家网络安全整体布局；发挥集中力量办大事和跨部门协同治理优势，推动国家漏洞库、行业漏洞库、威胁情报平台与关键信息基础设施安全保护体系协同联动；坚持自主可控，以国产基础模型、本土漏洞数据和自主安全工具链降低关键技术对外依赖；强化全流程依法监管，将合法授权、数据安全、分级操作、漏洞报送和责任追溯嵌入技术运行过程。基于上述特征，核心发展路径可分为两个层面：一是优化LLM的基础能力，提升其对代码、安全漏洞以及漏洞修复方案的认知水平；二是强化智能体的调用能力，推动模型调用程序分析、模糊测试、漏洞库等各类工具，实现网络安全漏洞治理全流程的闭环管理。上述两条路径不能相互替代，而是模型能力与智能体能力相互支撑、协同演进，共同形成双轮驱动的治理格局。

（一）从语义理解到自主可控：LLM能力重构的进阶路径

该路径的核心在于，通过系统性重构LLM的能力结构，推动其从通用语言模型演进为可真正理解安全语义、具备漏洞推理能力且实现自主可控的漏洞治理专用模型。该路径并非单一维度的技术升级，而是需要在“语义—推理—可控”三个层面协同推进，由此构成LLM赋能漏洞治理能力跃升的完整逻辑框架。

一是由通用语言模型转变为安全语义模型。漏洞治理要求模型对细粒度安全语义形成准确理解，通用LLM无法直接作为可靠的漏洞检测工具。Steenhoek等人于2025年发表的《机器也会犯错：漏洞检测对大模型推理能力的挑战》指出，包括GPT-4 Turbo等14款主流LLM的表现在漏洞检测任务中整体上接近随机猜测，其中最优模型的平衡准确率仅为54.5%。因此，我国需推进从“通用LLM”向“网络安全LLM”及“漏洞治理专用LLM”的转变，该过程并非单纯增加参数规模，而是要系统性构建多模态多粒度语料体系，使模型具备对漏洞全流程的深度认知。

二是由代码生成升级为漏洞推理。LLM能力提升的核心不仅在于具备代码编写能力，更在于能够识别不安全代码存在的问题，将安全语义嵌入代码分析过程。当前需重点强化四项能力：其一，跨函数、跨文件、跨组件维度的上下文理解能力；其二，对攻击路径可达性与可利用性的推理能力；其三，从编码、架构、治理层面开展根因分析解释的能力；其四，生成契合业务逻辑、代码改动量小、回归风险较低的补丁语义的能力。该路径将漏洞发现从“规则匹配问题”转化为“安全语义理解问题”，将漏洞修复从“代码替换问题”转化为“程序行为约束恢复问题”，最终要求模型能够明确阐释四个核心问题：漏洞的位置、漏洞形成的原因、漏洞的触发机制以及漏洞的安全修复方案。

三是由通用模型转型为自主可控的本土安全模型。漏洞发现与管控环节涉及大量敏感信息，核心模型与工具链若不可控将产生显著安全风险。因此，我国应构建以国产LLM为基础、以本土漏洞数据为支撑、以行业应用场景为牵引、以安全测评为约束的完整体系。围绕漏洞治理核心任务，通过全流程多环节优化实现这一转型。

（二）从工具调用到闭环治理：智能体能力跃升的进阶路径

此路径转向解决一个更现实的工程问题：模型具备充分的分析研判能力之后，如何在复杂环境中实现准确执行、有效验证与完整闭环。为此，本路径将LLM定位为“认知中枢”与“任务规划器”，通过智能体框架驱动一系列外部工具，在真实工程环境中完成漏洞治理任务。其核心逻辑是从模型内生能力走向工具增强执行，在“调用—闭环—可控”三个层面实现能力跃升。

一是使智能体从单纯的问答交互升级为任务系统。纯LLM输出易受幻觉影响，导致误报率偏高、修复建议可靠性不足等问题。因此，智能体需具备调用工具、获取证据、执行测试并反馈修正的能力，其核心在于搭建“模型—工具—环境—证据”的完整闭环：智能体读取相关上下文后，依次调用各类分析工具开展检测，继而查询漏洞库与威胁情报，最终在对应环境中验证补丁的有效性，推动漏洞结论由“模型判断”转向“证据支撑”。该工具增强模式尤其适用于我国能源、金融、交通等行业场景，此类行业普遍具备系统复杂、闭源项目占比高、安全要求严苛的特征，智能体可调用本地相关知识库与资产日志，将模型能力嵌入实际治理流程。

二是将割裂的发现、验证、修复环节串联为统一的治理闭环。智能体的核心作用在于串联传统模式下相互割裂的治理环节，依托LLM的调度规划能力完成多步骤的任务编排，需重点建设“闭环型漏洞治理智能体”，其基本流程如下：第一，接入代码仓库、资产清单、漏洞库与威胁情报数据源，构建完整的任务上下文；第二，调用各类工具生成候选漏洞清单；第三，通过多种技术手段验证漏洞是否真实、可触发；第四，生成漏洞修复方案，经多轮测试完成方案验证；第五，结合资产暴露程度、业务重要性、漏洞利用活跃度及补丁兼容性风险，确定漏洞修复优先级；第六，形成治理报告，并将相关治理知识沉淀至漏洞库。通过该基本流程，漏洞治理可真正实现从“发现问题”向“消除风险”的转变。

三是确保底层工具链的自主可控，使智能体能力真正嵌入本土行业场景。智能体的能力构建依托底层工具链，需要调用多类工具开展工作。我国应避免对国外安全平台与闭源模型形成依赖，关键领域的漏洞治理智能体须符合多项安全规范要求，并应搭建适配的国产技术体系。与此同时，智能体还需要针对不同行业的差异化需求调用专用工具。唯有将智能体的调用能力嵌入对应行业的工具链体系，才能形成实战化的漏洞治理能力，形成有别于通用AI安全助手、贴合本土行业需求的漏洞治理技术路线。

四、举措与建议

统筹推进上述两条发展路径，是一项涉及制度保障、生态构建与标准确立的系统性工程。LLM与智能体的能力提升，需以制度保障为基石、以产业生态为支撑、以标准规范为引领，切实将技术能力转化为可操作、可监管、可验证的漏洞治理效能。

（一）完善制度保障，实行分级授权监管

针对AI赋能漏洞发现与处置的不同技术路径与潜在风险，需统筹把握分类扶持与分级授权两条主线，通过差异化的制度设计，推动技术创新与安全可控相统一。

一是构建面向两条技术路线的分类扶持制度。针对“LLM能力提升路线”，政策应聚焦高质量漏洞数据集建设、数据标注规范、国产安全LLM研发及模型测评基准建设等领域，着力解决模型在准确理解漏洞机理、判断漏洞影响并生成可靠处置建议等方面的问题；针对“智能体调用能力提升路线”，政策应聚焦智能体沙箱环境搭建、攻防靶场、工具链适配和安全验证平台等领域，着力提升智能体完成漏洞发现、验证和修复任务的可靠性。鉴于两条技术路线在数据依赖、操作权限和风险外溢方面存在明显差异，不宜笼统地对“AI安全工具”提供同质化支持，而应分别制定项目认定、测试评价、资金扶持和成果转化标准。

二是建立漏洞治理智能体的分级授权制度。相较于常规软件工具，智能体具备自主执行多项操作的能力，若缺少制度层面的约束，在安全漏洞的发现与处置过程中可能诱发安全风险。因此，需按照任务风险等级划定授权边界：低风险任务可由智能体自动执行；中风险任务需经人工确认；高风险任务需落实审批、留痕、审计与责任追溯要求。生成式AI服务管理的相关制度规范中所确立的发展与安全并重、创新与依法治理相结合的原则，同样适用于漏洞治理智能体的制度设计。

（二）培育产业生态，强化场景牵引与人才培养

推动AI赋能漏洞发现与处置工作向纵深发展，需以场景牵引生态、以协同共育人才，实现技术供给与产业需求的有效对接。

一是构建面向AI赋能漏洞治理的产业生态。LLM技术路线需模型开发企业、数据平台、算力平台、漏洞库、科研机构与网络安全厂商协同参与；智能体技术路线则需安全工具厂商、云平台、软件开发平台、测试平台、行业用户与监管平台协同推进。据此，应支持培育形成以国家级漏洞库和行业平台为牵引、以龙头安全企业与AI企业为主体、以高校科研院所为支撑、以重点行业应用场景为验证环境的产业生态。

二是构建复合型人才培养体系。AI赋能漏洞发现与处置工作需要掌握多领域知识的复合型人才，因此，应当在各级各类院校以及企业的培训体系中设置“AI+漏洞治理”交叉课程，重点培养三类人才：第一类为具备代码模型、漏洞语料构建等能力的安全LLM研发人才；第二类为具备工具调用、沙箱验证等工程能力的漏洞治理智能体工程人才；第三类为熟悉多个重点行业场景业务系统与安全需求的行业漏洞治理专家。

（三）健全标准规范，确立测评与数据验证体系

健全AI漏洞治理领域的标准规范体系，需以LLM能力测评与智能体安全规范为双轮驱动，为技术研发、应用部署与质量评估提供统一标尺。

一是制定面向漏洞治理LLM的能力标准。当前，LLM测评侧重数据采集与处理、模型训练与构建等通用能力，难以充分反映漏洞发现与处置能力。因此，亟须构建一套科学、系统且具有针对性的漏洞治理LLM测评标准。该标准需充分评估LLM在漏洞检测准确性、响应时效性、上下文理解能力以及对新型漏洞的泛化能力等方面的综合表现，从而为漏洞治理工作的质量评估、技术选型与持续优化提供权威、可量化、可复现的依据。

二是制定针对漏洞治理智能体的安全规范与能力标准。智能体相关标准不应仅聚焦于输出回复的质量，还需对任务规划、工具调用、权限边界等多个维度作出重点规范。开放式全球应用安全项目（OWASP）发布的《LLM应用十大安全风险》，将提示注入、训练数据污染等问题列为LLM应用的核心安全风险，这表明智能体在调用LLM与外部工具的过程中，必须充分考量模型安全与应用安全叠加产生的复合风险。据此，应当构建漏洞治理智能体的分级能力标准与安全控制标准，明确不同类型任务与不同操作的执行要求。

五、结 语

AI赋能的漏洞发现与处置工作，正在从根本上重塑网络安全治理格局，自动化漏洞发现与修复能力有望在部分场景率先实现常态化的人机协同应用。面向智能增强、自主闭环的发展新阶段，行业各方亟须凝聚共识、前瞻布局，共同推动漏洞治理加快从“工具辅助”模式迈向“智能体驱动闭环”模式。AI内生安全风险的传导与叠加，还将催生模型漏洞评估、智能体行为审计、多智能体博弈推演等新兴安全赛道，倒逼安全产业空间大幅拓展。这一发展进程既会带来效率跃升的全新机遇，也将对漏洞治理能力提出更高要求。面向未来，应立足我国网络安全治理实际，以制度保障为基石、产业生态为支撑、标准规范为引领，方能在这一进程中走出自主可控的中国特色漏洞治理之路。

（本文刊登于《中国信息安全》杂志2026年第8期）

免责声明：

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。

任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。

本文转载自：中国信息安全 任望 李晔 任望 李晔《专题·原创 | 人工智能赋能的安全漏洞研究与防治》