AI 简讯｜AI漏洞发现正在走向验证与修复

山石网科
山石网科

山石网科新视界

2026年11月2日 14:00
北京

去阅读

*AI赋能网安创新* AI找到一个疑似漏洞之后，接下来怎么办？它是否真的可以触发，会影响哪些系统，修改之后是否还会出现，正常业务会不会被一起改坏？这些问题，决定了AI的发现能否转化为实际的安全收益。 上周，Anthropic、Google和Oracle的三项进展，把这一变化呈现得更加具体：前沿模型开始串联复杂漏洞，评测向修补质量延伸，企业产品尝试把发现、复现和变更审批连接起来。对网络安全行业而言，机会正在扩大，但竞争也随之深入到证据质量与修复交付。 一、三项进展把能力推进到不同环节 10月27日，Anthropic披露，团队使用尚未发布的内部研究模型，在浏览器和操作系统等真实软件中构造了五条攻击链。其Chrome研究成果中，已有62个漏洞获分配CVE编号。这项工作的价值，在于把多个缺陷串联成可验证的结果。单个组件看似有限的弱点，经过组合可能跨越原有保护边界。Anthropic同时强调，研究平台采用多种扫描策略，并让漏洞发现进入统一验证与风险评级流程。 10月28日，Google发布Gemini 4 Carbon，公布漏洞发现、利用验证和修补方面的成绩。 另外，Oracle于10月27日宣布AI Security Mesh，尝试将前沿模型接入企业的漏洞调查与修复流程。 二、AI把代码理解与反复试验连接起来 漏洞发现最耗费精力的地方，常常是把分散的线索拼在一起。一项输入在哪里进入系统，经过哪些函数，权限检查在哪一步发生，异常情况下又会走向哪条分支，都可能影响最终判断。只看到一段危险代码，往往还不足以确认一条真实攻击路径。AI值得关注的能力，是帮助研究人员在较大范围内追踪这些关系，并根据工具反馈调整判断。例如，先阅读代码提出假设，再运行测试检查假设；测试失败后，重新查看调用条件，而不是只输出一份看起来合理的说明。理解程序与动手试验由此可以更紧密地衔接。在Anthropic披露的Android研究中，模型结合了源码分析、闭源组件逆向分析和实体设备测试，最终串联多个缺陷。 这一案例说明，能力的延伸依赖工具、环境和持续反馈。安全团队仍需提供正确的目标、必要的上下文及验证条件。这也决定了AI与现有工具的关系。规则扫描适合稳定识别已知模式，模糊测试通过大量输入探索异常，AI则可帮助选择调查方向、解释异常并尝试关联根因。产品设计应让这些方法相互补充，用验证结果淘汰错误推断。 三、从疑点变成证据，才有修复优先级 设想一个场景：模型认为某接口缺少权限检查。但真实系统可能在上游统一校验身份，也可能存在另一条绕过上游的入口。验证要回答的，就是在指定版本和配置下，某类用户能否触达敏感操作，以及触达后会造成什么影响。仅凭代码片段或漏洞严重性标签，无法完成这一判断。 一项值得交给研发处理的发现，应包含受影响版本、触发前提、可复现证据和影响范围。验证应优先在隔离测试环境中完成，并采用足以证明问题的最小测试。一旦超出授权范围或可能影响生产业务，就需要停止或转交人工。还要保留“尚未确认”的状态。某次测试没有复现，可能因为环境不同、条件缺失或时间不足，不能直接判定安全。能够诚实记录验证边界，比把所有线索强行归为“有漏洞”或“无漏洞”更有用。 四、修复是否成功，要同时看漏洞和正常业务 AI生成补丁之后，验证至少要面对两个方向：原有漏洞是否被阻断，正常功能是否仍然成立。把危险接口直接删除，可能让测试中的攻击失效，却同时破坏合法业务；只针对一条测试输入增加限制，也可能遗漏同一根因产生的其他路径。CWE-bench v1为这种区别提供了具体参照。它让模型在不预先告知漏洞的情况下审计并修补代码，程序化检查既验证攻击是否失效，也检查已有测试是否通过；另外设置跨模型评审，考察修补是否保留功能、能否应对变体等问题。评测开始追问“修得对不对”，但有限测试仍无法保证所有业务场景安全。因此，修补生成和修补验收应有相对独立的检查。测试应覆盖原始问题、同类变体及关键业务功能，必要时由开发与安全人员共同复核。对于无法立即升级的系统，可以先评估访问限制或防护规则等缓解措施，但应继续跟踪根因修复，不能把临时阻断视为永久解决。 五、Oracle把环境理解和变更控制纳入产品 Oracle AI Security Mesh计划将OpenAI前沿网络安全模型、Oracle测试工具与客户提供的系统信息结合，输出复现步骤和测试结果，并在批准的范围内检验修复及其对正常应用行为的影响。修复变更由客户批准后执行；智能体被赋予独立身份、任务范围及即时权限，并由独立监控约束越界活动。其产品页面还描述了单独的智能体复核发现、保存企业私有知识，以及在后续评估中利用这些信息的机制。这些设计指向一个现实问题：通用模型不知道客户真正运行着什么版本、哪些系统相连、哪些业务不能中断。只有补齐环境信息，模型的技术判断才可能转化为客户可执行的处置建议。这里体现出安全企业的价值空间。模型提供分析能力，安全产品需要把调查对象、证据、审批人和执行结果关联起来。随着环境和版本变化，原有结论也需要重新检查。持续验证因而可能成为服务内容，而不只是一次扫描报告的附加功能。 六、发现提速之后，更难的瓶颈开始显现 首先是修复吞吐量。模型若产生大量重复、低质量或缺少复现条件的报告，研发团队反而要花更多时间筛查。有效的产品应先去重、合并同一根因并补齐证据，再按客户环境中的影响排序。新增报告数量并不能单独证明安全水平提高。 其次是测试与数据成本。构建环境、保存版本快照、运行验证和人工复核都需要投入。衡量效率应看每项确认漏洞的总成本，以及从确认到修复的耗时；只比较模型调用费用，容易低估真正的工程负担。 更难的是可信执行。用于分析的源码、文档或工具输出可能含有误导性指令；模型也可能误判权限或错误修改测试。执行环境需要把任务指令与待分析内容分开，限制网络访问和凭据权限，并保留可审计记录。更强的漏洞能力，必须配套更严格的操作约束。 攻防速度也会同时变化。发现和复现能力提高，既帮助防守方清理积压问题，也可能让攻击者更快形成利用。由此带来的需求不仅是增加扫描频率，还包括明确披露流程、提高补丁交付速度，以及在修复完成前验证临时防护是否有效。 七、行业机会 漏洞业务可以沿着两个方向深化。一端进入研发过程，在代码变更时尽早识别问题并提交有证据的修改建议；另一端进入客户运行环境，结合资产、配置和访问关系判断实际风险，推动修复或缓解，再复测结果。前者减少新漏洞进入，后者处理已经存在的暴露。两类业务需要不同条件。拥有源码和测试环境，适合开展代码审计与补丁验证；主要掌握资产与网络信息，则更适合风险关联、可达性分析和缓解效果检查。安全厂商应依据能够取得的数据与控制权限确定承诺范围，避免把模型能力直接等同于产品能力。 竞争也可能因此重新分工。通用模型持续进步，会让基础分析能力更容易获得。安全企业的差异化，将更多体现在客户环境数据是否准确、验证是否可重复、工具能否稳定执行，以及能否对交付结果承担责任。这些能力需要长期积累，难以通过接入一个模型接口自动获得。 主要资料来源 [1] Anthropic 漏洞发现与利用研究  2026-10-27 https://www.anthropic.com/research/discovering-vulnerabilities-with-claude [2] Google Gemini 4 Carbon发布公告  2026-10-28 https://blog.google/innovation-and-ai/models-and-research/gemini-models/introducing-gemini-4-carbon [3] Oracle 企业AI安全能力发布公告  2026-10-27 https://www.oracle.com/sg/news/announcement/ai-world-oracle-advances-enterprise-security-for-the-ai-era-2026-10-27 [4] Collinear CWE-bench v1评测与方法  更新于2026-10-28 https://cwe-bench.com [5] Oracle AI Security Mesh产品说明  访问于2026-10-30 https://www.oracle.com/asean/artificial-intelligence/security-mesh [6] SEC-bench Pro评测任务说明  访问于2026-10-30 https://sec-bench.github.io * 圆满收官！山石网科合作伙伴售前工程师大比武 * 对抗银狐虚拟机保护机制：指令级行为分析与启发式代码检测全解析 * 重保攻防实战｜红队乔装越边界，山石云铠CNAPP明察秋毫阻暗袭 山石网科是中国网络安全行业的技术创新领导厂商，由一批知名网络安全技术骨干于2007年创立，并以首批网络安全企业的身份，于2019年9月登陆科创板（股票简称：山石网科，股票代码：688030）。 现阶段，山石网科掌握30项自主研发核心技术，申请540多项国内外专利。山石网科于2019年起，积极布局信创领域，致力于推动国内信息技术创新，并于2021年正式启动安全芯片战略。2023年进行自研ASIC安全芯片的技术研发，旨在通过自主创新，为用户提供更高效、更安全的网络安全保障。目前，山石网科已形成了具备“全息、量化、智能、协同”四大技术特点的涉及基础设施安全、云安全、数据安全、应用安全、安全运营、工业互联网安全、信息技术应用创新、AI安全、安全服务、安全教育等10大类产品及服务，50余个行业和场景的完整解决方案。