指南发布|智能体应用程序安全指南&AI智能体—威胁与缓解措施

admin 2025-12-27 01:55:14 网络安全文章 来源:ZONE.CI 全球网 0 阅读模式

文章总结: OWASP中国发布智能体应用程序安全指南及威胁与缓解措施文档,旨在为基于大语言模型的安全应用构建提供指导。指南涵盖技术安全控制、架构模式与生命周期防护,威胁文档则详述威胁建模、分类法及缓解策略。两份文档面向开发与安全人员,提供了具体的安全防御建议。 综合评分: 80 文章分类: AI安全,解决方案,技术标准,安全开发


cover_image

指南发布 | 智能体应用程序安全指南&AI智能体—威胁与缓解措施

原创

OWASP中国

OWASP

2025年12月26日 10:52 湖北

智能体应用程序安全指南

OWASP面向大语言模型应用与通用AI智能体的安全计划:十大风险

PART 01

内容介绍

智能体应用程序安全指南

本指南旨在为设计、开发和部署基于大语言模型(LLM) 的安全智能体应用程序提供实用且可操作的指导。该指南与OWASP 智能体人工智能威胁与缓解 (ASI T&M) 文档相辅相成,重点关注构建者和防御者可以直接应用的具体技术建议。

范围和受众

受众本指南主要面向参与构建、保护或评估工作流和智能体人工智能应用程序的软件开发人员、人工智能/机器学习工程师、安全架构师、安全工程师和技术主管。

本指南包括:

·智能体系统的技术安全控制和最佳实践。

·智能体人工智能特有的安全架构模式。

·常见智能体威胁的缓解策略。

·贯穿开发生命周期(设计、构建、部署、运维)的指导。

·关键组件(例如大语言模型 (LLM)、编排、内存、工具和运行环境)的考量因素。

·安全原则在不同智能体架构(单智能体、多智能体等)中的应用示例。

中文项目支持者

组长:肖文棣

成员:肖文棣、刘志诚

审核:肖文棣、张坤、王颉

编排:肖文棣

AI智能体-威胁与缓解措施

AI智能体是自主系统的一项进步,并且越来越多地由大语言模型(LLMs)和生成式 AI 所支撑。尽管AI 智能体早于现代大语言模型(LLM)的出现,但它与生成式AI 的融合,大幅拓展了自身的规模、能力及潜在风险。本文件是 OWASP 智能体安全倡议(ASI)系列指南中的第一份,旨在基于威胁建模的方法呈现新出现的智能体威胁,并讨论其缓解措施。

本文件将:

l定义范围与目标受众

l提供智能体术语、能力和架构的定义

l讨论威胁建模方法,并提供一个参考威胁模型,以讨论新的智能体威胁及其缓解措施

l通过四个示例场景的威胁模型说明不同环境下的威胁

l使用结构化且详细的智能体威胁分类法记录威胁

l详细描述缓解措施与行动指南(playbooks)

版本1.02025 年 12 月

项目组组长:张坤王斌

项目组成员:刘畅肖文棣

审核:王斌肖文棣王颉

PART 03

文档下载

中文文档点击图片下载

中文版:AI智能体—威胁与缓解措施V1.0

 密码:mt4y

中文版:智能体应用程序安全指南

密码:qrg3


免责声明:

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景,旨在提升网络安全防护能力,具有明确的技术研究属性。

任何单位或个人未经授权,将本文内容用于攻击、破坏等非法用途的,由此引发的全部法律责任、民事赔偿及连带责任,均由行为人独立承担,本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布,若存在版权侵权或其他异议,请通过邮件联系处理,具体联系方式可点击页面上方的联系我

本文转载自:OWASP OWASP中国《指南发布 | 智能体应用程序安全指南&AI智能体—威胁与缓解措施》

评论:0   参与:  2