文章总结： 北航等机构将真实漏洞样本用于AI安全模型训练并建立可验证评测框架。文章强调真实漏洞数据含复杂上下文，能评估从代码到风险的距离。企业应定位模型为初筛器，建立失败样本库，评测需关注准确率、召回率、验证成本及稳定性，防止数据泄漏。建议建立隔离评测环境、选取授权样本、人工复核并纳入变更流程。 综合评分： 85 文章分类： AI安全,漏洞分析,安全建设,安全工具,解决方案

北航等机构把真实漏洞“炼进”模型：AI挖漏洞进入可验证阶段

原创

tcode tcode

字节脉搏实验室

2026年9月2日 10:13 北京

在小说阅读器读本章

去阅读

在公众号小说中沉浸阅读

    9月1日，国内媒体报道北京航空航天大学等机构将真实漏洞样本用于安全模型训练，并在漏洞发现任务上进行评测。这个方向值得关注，不是因为“AI马上替代安全工程师”，而是因为研究开始把模型能力放进可比较、可复现的测试框架。

    长期以来，AI安全演示容易陷入两个误区：一是只展示模型能生成多少代码，二是把一次成功案例当成稳定能力。真实漏洞数据、统一基准和明确的误报漏报指标，能把讨论拉回工程问题：模型在哪些类型漏洞上有效，哪些场景会产生危险的错误建议，结果能否被人工验证。

为什么真实漏洞数据很关键

    真实漏洞包含复杂上下文：版本差异、身份边界、业务逻辑、补丁状态和部署条件。模型如果只学习抽象规则，可能在实验环境里给出漂亮答案，却无法判断一个问题在国内企业的实际系统中是否可达、是否需要认证、是否会影响生产。真实样本能帮助研究者评估这种“从代码到风险”的距离。

    但训练数据越真实，合规要求越高。漏洞样本、未修复代码和企业日志不能被随意上传到外部服务。研究与企业落地都需要做脱敏、授权、隔离和访问审计，避免为了提升模型效果而扩大敏感信息暴露面。

企业如何借鉴，而不是盲目自动化

    研发团队可以把模型用于代码审查、变更影响分析和修复建议，但应把它定位为高效率的初筛器。模型报告必须关联具体文件、版本、调用链和测试证据；没有证据支撑的“高危”只能进入待核查队列，不能直接阻断发布或宣称已确认漏洞。

    安全团队还要建立失败样本库，记录模型漏报、误报和不适用场景。对于身份认证、支付、权限和关键基础设施代码，模型输出必须经过人工复核、单元测试和独立安全验证。只有当结果能在一段时间内稳定复现，才适合纳入自动化流水线。

    评测还应区分“发现问题”和“证明问题”。模型指出一处可疑调用，只能说明值得调查；要升级为高优先级缺陷，还需要确认受影响版本、可达条件、权限要求和修复后的回归结果。国内团队在构建基准集时，也可以把中文注释、国产中间件和常见企业框架纳入样本，让模型能力更接近本地研发环境，而不是只在公开开源项目上取得漂亮分数。

评测指标不能只看命中率

    企业采购或自建安全模型时，至少要同时观察准确率、召回率、验证成本和运行稳定性。一个看似命中率很高的模型，如果每天产生大量无法复现的告警，会把安全人员拖入新的噪声；一个召回率漂亮的模型，如果只覆盖少数语言和框架，也不能代表它适合真实代码库。评测集需要按漏洞类型、语言、项目规模和版本时间切分。

    还要防止数据泄漏让结果虚高。如果训练集中已经包含测试漏洞、补丁提交或详细分析文章，模型可能只是记住答案。较稳妥的方法是保留时间上更新的盲测集，并由不了解训练数据的人员复核。对于无法公开的内部样本，可以记录哈希、环境和验证步骤，让结果在授权范围内仍可追溯。

    进入开发流水线后，模型权限应与结论可信度匹配。低置信度结果只创建待办，高置信度结果可以触发额外测试，但不应直接修改生产分支。自动生成补丁也必须经过代码所有者审核、依赖检查和回归测试。模型真正节省的应是筛选和定位时间，而不是绕过既有质量责任。

行动清单：今天就做这 4 件事

    1. 建立隔离评测环境，禁止模型直接触达生产凭证和真实业务数据。     2. 选取经过授权的真实漏洞样本，建立可重复基准集。     3. 对模型建议执行人工复核、测试验证和误报漏报统计。     4. 将确认后的修复纳入正常变更、回滚和审计流程。

    这项研究对国内企业的启发是：AI安全能力的价值，最终要靠证据而不是演示来证明。模型可以缩短发现问题的时间，但责任仍然属于使用它的组织；越接近生产，越需要清晰的权限边界、人工判断和可回滚的工程流程。

信息边界：本文基于截至 2026 年 9 月 2 日可公开核验的信息；研究结论、影响范围与后续处置以原始来源最新公告为准。

参考来源：

– 新浪财经：《AI能挖漏洞吗？北航等机构把真实漏洞炼进了模型参数》（2026-09-01）：https://finance.sina.com.cn/

• 至顶网：《前沿AI打破网络安全攻守平衡》（2026-09-01）：https://www.zhiding.cn/

免责声明：

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。

任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。

本文转载自：字节脉搏实验室 tcode tcode《北航等机构把真实漏洞“炼进”模型：AI挖漏洞进入可验证阶段》