文章总结： 本文探讨AI生成代码对软件安全的挑战。指出AI基于统计学习复制历史漏洞，生成看似专业实则存在隐患的代码，引发幻觉式安全风险。这削弱了开发者理解与审计有效性，放大风险传播并威胁供应链安全。建议视AI代码为不可信输入，关键模块由人主导，重构安全责任机制与教育体系以应对生态级风险。 综合评分： 82 文章分类： AI安全,安全建设,安全开发,应用安全

从“人写漏洞”到“模型复制漏洞”：AI 生成代码时代的软件安全反思

原创

金鼎 金鼎

网安培训

2026年3月12日 17:28 北京

AI 生成代码时代

当代码不再完全由人类编写，软件安全面临的挑战正在发生根本性变化。以大模型为代表的人工智能技术，正以前所未有的速度渗透到软件开发的各个环节。从需求理解到代码生成，从重构优化到测试补全，AI 生成代码已经从“辅助工具”演变为软件工程中的重要生产力。在效率显著提升的同时，一个长期被低估的问题逐渐浮现：AI 生成代码正在系统性地改变软件安全风险的形态、来源和传播方式。

在传统软件工程中，安全问题通常被认为是由个体开发者能力不足、经验欠缺或疏忽大意所导致。漏洞的产生具有较强的偶然性和个体特征，安全治理的核心目标，是通过规范、培训和审计来减少人为错误。然而，当代码开始由AI大规模生成时，安全问题不再只是“人写错了代码”，而是演变为“模型在复制什么样的代码”“开发流程是否默认信任模型输出”，以及“当漏洞出现时，谁真正理解并承担责任”等更深层次的拷问。

模型生成代码的依据，是对海量历史代码语料的统计学习和概率预测，而非对安全语义的逻辑推理。这意味着，只要某种不安全的写法在历史代码中大量存在，它就极有可能被模型学习并反复输出。在现实开发环境中，许多被安全社区反复警示的经典漏洞——例如SQL注入、命令注入、跨站脚本、反序列化漏洞以及边界检查缺失——并没有因为AI的引入而减少，反而在某些场景下变得更加常见。

AI 往往能够生成“看起来非常专业”的安全相关代码。

这类代码通常结构清晰、注释完整、逻辑自洽，甚至能够顺利通过功能测试，但在关键的安全细节上却可能存在根本性错误。例如，模型可能会自行实现加密逻辑而不是调用成熟的密码学库，可能会选择已被证明不安全的加密模式，可能在身份认证流程中遗漏对关键字段的校验，或者为了避免报错而默认关闭TLS证书校验。普通开发者并不容易识别这类问题，而且在早期测试中也不容易暴露这类问题，但在真实攻击场景中却往往成为致命突破口。

AI 生成代码还存在“幻觉式安全”的风险。

模型可能生成并不存在的API，或者错误理解接口参数的语义，导致安全机制在运行时根本没有生效。对于认证、授权、日志和审计等安全关键模块，这种问题尤为危险，因为系统表面上看似具备安全控制能力，实际上却处于“失效而不自知”的状态。

AI的引入正在改变开发者与代码之间的关系。开发者越来越多地扮演“代码使用者”而非“代码作者”的角色，对代码的逐行理解和设计动机的把握明显下降。在此背景下，代码审查往往更关注功能是否满足需求，而忽略了安全假设是否成立。当安全事件发生时，责任的归属也变得更加模糊，“这段代码是AI生成的”正在成为一种常见的解释，而这种解释本身并不能解决安全问题。

AI 生成代码削弱了传统经验型审计方法的有效性。

以往，安全专家可以通过代码风格、结构习惯和设计逻辑，快速判断潜在风险点，并与开发者进行针对性沟通。而AI生成的代码在风格上高度一致，缺乏明确的设计背景和上下文动机，使得“为什么要这样写”这一关键问题变得难以回答。这迫使安全团队更加依赖自动化工具，而自动化工具本身同样存在覆盖不足、误报和漏报的问题。

AI 带来的规模效应正在放大软件安全风险的传播范围。

一旦模型在某类问题上形成输出偏好，不安全的实现方式就可能被同时复制到大量项目中。攻击者可以针对主流模型的输出模式进行研究，构造高度通用的攻击手段，使漏洞从个别系统问题迅速演变为生态级风险。在这种背景下，软件安全不再只是单个组织内部的问题，而是与模型、平台和工具生态高度耦合的系统性问题。

AI 生成代码还对软件供应链安全和治理体系提出了新的挑战。

模型的训练数据来源复杂，其中可能包含带有后门、不良示例或许可证风险的代码片段。开发者在使用AI时，往往并不清楚某段生成代码的“血缘关系”，这使得传统的供应链审计和合规检查更加困难。同时，在实际使用过程中，开发者还可能在与AI交互的提示词或上下文中无意泄露敏感信息，包括密钥、证书、内部接口设计和系统架构细节，从而引入新的数据安全风险。

攻击者同样在利用 AI 技术。

自动生成后门代码、变异exploit、批量分析代码生成模式，正在成为现实。这进一步加剧了攻防之间的不对称，使防守方不仅要面对传统漏洞，还要面对“由模型偏好驱动”的新型攻击面。

现有的软件安全规范、开发流程和责任体系，主要是围绕“人类编写代码”这一前提建立的。当AI成为代码生产的重要参与者时，如果不对制度进行相应调整，安全风险的累积是不可避免的。

在AI时代，强调软件安全并不意味着限制技术使用，也不意味着否定自动化的价值，而是要求在更高层次上重建对代码的理解、控制和责任机制。安全关键模块必须由人主导设计，AI生成代码应被视为不可信输入而非权威答案，开发效率的提升不能以安全治理的弱化为代价。同时，软件安全教育也需要同步升级，使开发者具备在智能化开发环境中识别风险、理解模型局限并承担安全责任的能力。

AI不会消灭软件安全问题，但它深刻改变了问题产生的方式和扩散的速度。未来的软件安全，将不再只是“修补漏洞”，而是如何在人与机器共同编写代码的时代，重新确立安全的边界、责任和秩序。这正是AI生成代码带给软件安全领域最深远、也最严肃的挑战。

本文作者：  金鼎

——CISAW软件安全方向介绍——

信息安全保障人员认证(CISAW)安全软件方向是中国网络安全审查认证和市场监管大数据中心针对网络与信息安全安全软件领域的中高级专业技术人员和管理人员开展的人员能力认证。通过安全软件方向认证，证明持证人员符合《信息安全保障人员认证准则》要求，具备网络与信息安全安全软件领域的专业知识和技能。

CISAW安全软件方向综合考查认证申请人员在软件开发领域对开发模型、漏洞管理、安全功能设计、常见软件安全问题、编码实践、安全测试等知识的掌握程度，检验运用软件安全开发方法解决实际问题的技术水平。

免责声明：

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。

任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。

本文转载自：网安培训 金鼎 金鼎《从“人写漏洞”到“模型复制漏洞”：AI 生成代码时代的软件安全反思》