文章总结: OWASP中国发布智能体应用程序安全指南及威胁与缓解措施文档,旨在为基于大语言模型的安全应用构建提供指导。指南涵盖技术安全控制、架构模式与生命周期防护,威胁文档则详述威胁建模、分类法及缓解策略。两份文档面向开发与安全人员,提供了具体的安全防御建议。 综合评分: 80 文章分类: AI安全,解决方案,技术标准,安全开发
指南发布 | 智能体应用程序安全指南&AI智能体—威胁与缓解措施
原创
OWASP中国
OWASP
2025年12月26日 10:52 湖北
智能体应用程序安全指南
OWASP面向大语言模型应用与通用AI智能体的安全计划:十大风险
PART 01
内容介绍
智能体应用程序安全指南
本指南旨在为设计、开发和部署基于大语言模型(LLM) 的安全智能体应用程序提供实用且可操作的指导。该指南与OWASP 智能体人工智能威胁与缓解 (ASI T&M) 文档相辅相成,重点关注构建者和防御者可以直接应用的具体技术建议。
范围和受众
受众:本指南主要面向参与构建、保护或评估工作流和智能体人工智能应用程序的软件开发人员、人工智能/机器学习工程师、安全架构师、安全工程师和技术主管。
本指南包括:
·智能体系统的技术安全控制和最佳实践。
·智能体人工智能特有的安全架构模式。
·常见智能体威胁的缓解策略。
·贯穿开发生命周期(设计、构建、部署、运维)的指导。
·关键组件(例如大语言模型 (LLM)、编排、内存、工具和运行环境)的考量因素。
·安全原则在不同智能体架构(单智能体、多智能体等)中的应用示例。
中文项目支持者
组长:肖文棣
成员:肖文棣、刘志诚
审核:肖文棣、张坤、王颉
编排:肖文棣
AI智能体-威胁与缓解措施
AI智能体是自主系统的一项进步,并且越来越多地由大语言模型(LLMs)和生成式 AI 所支撑。尽管AI 智能体早于现代大语言模型(LLM)的出现,但它与生成式AI 的融合,大幅拓展了自身的规模、能力及潜在风险。本文件是 OWASP 智能体安全倡议(ASI)系列指南中的第一份,旨在基于威胁建模的方法呈现新出现的智能体威胁,并讨论其缓解措施。
本文件将:
l定义范围与目标受众
l提供智能体术语、能力和架构的定义
l讨论威胁建模方法,并提供一个参考威胁模型,以讨论新的智能体威胁及其缓解措施
l通过四个示例场景的威胁模型说明不同环境下的威胁
l使用结构化且详细的智能体威胁分类法记录威胁
l详细描述缓解措施与行动指南(playbooks)
版本1.02025 年 12 月
项目组组长:张坤王斌
项目组成员:刘畅肖文棣
审核:王斌肖文棣王颉
PART 03
文档下载
中文文档点击图片下载
中文版:AI智能体—威胁与缓解措施V1.0
密码:mt4y
中文版:智能体应用程序安全指南
密码:qrg3
免责声明:
本文所载程序、技术方法仅面向合法合规的安全研究与教学场景,旨在提升网络安全防护能力,具有明确的技术研究属性。
任何单位或个人未经授权,将本文内容用于攻击、破坏等非法用途的,由此引发的全部法律责任、民事赔偿及连带责任,均由行为人独立承担,本站不承担任何连带责任。
本站内容均为技术交流与知识分享目的发布,若存在版权侵权或其他异议,请通过邮件联系处理,具体联系方式可点击页面上方的联系我。
本文转载自:OWASP OWASP中国《指南发布 | 智能体应用程序安全指南&AI智能体—威胁与缓解措施》
版权声明
本站仅做备份收录,仅供研究与教学参考之用。
读者将信息用于其他用途的,全部法律及连带责任由读者自行承担,本站不承担任何责任。










评论