文章总结： OWASP发布LLMAI网络安全与治理检查清单，旨在协助企业识别生成式AI风险并建立安全管控。该清单涵盖LLM威胁分类及六阶段战略构建方法，详细拆解了对抗性风险、威胁建模、资产清点、安全培训、治理框架及法律合规等核心领域。建议企业实施红队演练、TEVV测试及模型卡片机制，确保AI系统全生命周期安全合规，以应对技术演进带来的挑战。 综合评分： 80 文章分类： AI安全,安全建设,解决方案,技术标准

OWASP发布生成式AI安全治理检查清单，助力企业应对LLM风险

FreeBuf

2026年3月16日 18:04 上海

#

随着OpenAI 、Anthropic、Google和微软等公司的生成式AI及大语言模型（LLM）产品用户量呈指数级增长，开源替代方案也蓬勃发展，企业IT安全决策者正竭力追赶AI技术的迅猛发展步伐。

OWASP针对这一趋势发布了新指南——《LLM AI网络安全与治理检查清单》。

#

Part01

LLM威胁分类

鉴于AI技术涉及面广泛，OWASP检查清单主要旨在帮助管理者快速识别生成式AI与大语言模型（LLM）的核心风险并采取应对措施，确保企业具备基本安全管控能力，从而安全使用生成式AI及LLM工具、服务与产品。

OWASP特别强调，该清单并非穷尽性文档，将随技术与工具的成熟度持续演进。安全专家将LLM威胁划分为以下类别（如下图所示）：

企业在确立LLM战略时，需重点应对生成式AI与LLM带来的独特风险，通过组织治理和相应安全控制措施将其最小化。 OWASP专家在指南中建议采用六阶段方法构建有效的LLM战略：

针对LLM部署类型，OWASP提出需进行细致评估与规划：

Part02

OWASP AI检查清单详解

以下是对OWASP发布的AI安全治理检查清单的拆解分析，企业在推进生成式AI（GenAI）及大语言模型（LLM）项目时需重点核查以下领域：

对抗性风险

该领域既涉及竞争对手也涉及攻击者，其关注点不仅是攻击面，还包括企业的整体环境。例如，了解竞争对手如何运用AI来取得更优商业成果，并更新内部流程和政策（如事件响应计划），以应对与生成式AI相关的网络攻击和安全事件，都属于这一范畴。

威胁建模

随着众多安全机构推崇”安全设计”理念，威胁建模的重要性日益凸显。这包括思考攻击者可能如何利用LLM和生成式AI来加速漏洞利用、企业如何检测恶意的AI使用行为，以及如何通过内部系统和环境来加固该技术本身的安全性。

AI资产清点

“无法保护未知的事物”这一原则同样适用于生成式AI领域。AI资产清点旨在梳理内部开发解决方案以及外部工具和平台所涉及的各项资产。

在此过程中，不仅要了解使用了哪些工具和服务，还必须明确相应的责任归属。OWASP还建议将AI组件纳入软件物料清单，并根据敏感度对数据源进行分类。此外，应建立相应流程，确保未来能够安全地在企业资产库中接入或移除各类工具和服务。

AI 安全与隐私培训

人是安全链中最薄弱的一环，但这并非不可避免——前提是企业将AI安全与隐私培训融入其生成式AI的实践过程。

这包括帮助员工了解当前的AI和LLM项目、相关技术本身以及关键的安全问题。此外，在该领域内，建立一种以信任和透明为核心的文化至关重要，这也是防止”影子AI”的关键所在。否则，员工私下使用未经授权的平台将损害企业安全。

商业价值论证

与早年云计算的应用类似，大多数公司在采用新技术（包括生成式AI和LLM）时，并未制定出连贯、具有战略性的商业模式。受炒作和”错失恐惧症”影响而仓促跟进是常有的事。但若无坚实的业务用例支撑，企业不仅可能无法达成预期目标，还会面临更多风险。

治理框架

缺乏治理，几乎无法实现问责制和清晰的目标设定。根据OWASP清单，该领域的工作包括制定RACI图表，用以记录公司的AI项目、分配职责，并建立全公司范围的政策和流程。

法律合规

切勿低估AI所涉及的法律影响——相关法规正在快速演变，并可能对企业声誉和财务结构造成重大损害。该领域涵盖多个方面，例如：

• 与AI相关的产品保证
• AI软件的最终用户许可协议
• 知识产权风险

简而言之，务必让法务团队或相关专家介入，以识别并处理对公司有影响的各种法律相关事务。

监管适配

在法律讨论的基础上，相关的监管规定也在迅速演进，欧盟的《人工智能法案》便是一例。企业因此必须明确适用于自身的AI合规要求。

LLM解决方案实施

采用LLM解决方案需要考量特定的风险和控制措施。OWASP清单在该领域提及的要点包括：

• 实施访问控制
• 确保AI训练流程的安全
• 梳理数据工作流
• 识别LLM及其供应链中存在的或潜在的漏洞

此外，建议进行持续的第三方审计、渗透测试以及对供应商进行代码审查。

TEVV测试验证

TEVV流程是美国国家标准与技术研究院在其AI框架中明确推荐的方法。它涵盖了对AI模型在整个生命周期内的：

• 持续测试
• 评估
• 核实
• 验证
• 以及对其功能性、安全性和可靠性的度量

模型与风险卡片

为了确保大型语言模型的合乎道德的使用，OWASP清单提出了模型卡和风险卡的概念。这些卡片有助于用户理解AI系统，从而增强对系统的信任。同时，它们也提供了一个平台，便于公开讨论潜在的负面影响，如算法偏见或隐私问题。

这些卡片可以包含AI模型的详细信息、架构、训练方法和性能指标。另一个重点是关注负责任的人工智能，以及所有与公平性和透明度相关的问题。

检索增强生成（RAG）

检索增强生成是一种优化LLM从特定来源检索相关数据能力的方法。这包括微调预训练模型以及在新的数据集上重新训练现有模型，以提升其性能。OWASP建议实施RAG，以最大化大型语言模型在企业应用中的价值和有效性。

AI红队演练

最后同样重要的是，OWASP专家还建议举办AI红队演练。通过模拟针对AI系统的攻击，来识别其弱点并验证现有控制与防御措施的有效性。

OWASP同时强调，红队演练本身并非确保生成式AI和LLM安全的全面解决方案或方法。它应被嵌入一个更广泛的安全框架之中。专家们指出，企业内部必须对红队演练的具体要求有清晰的认识，这一点至关重要。否则，极有可能引发违反内部政策甚至法律纠纷的风险。

参考来源：

GenAI-Security als Checkliste

https://www.csoonline.com/article/3493126/genai-security-als-checkliste.html

#

#

#

推荐阅读

电报讨论

免责声明：

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。

任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。

本文转载自：FreeBuf 《OWASP发布生成式AI安全治理检查清单，助力企业应对LLM风险》