文章总结： 该报告指出智能体安全核心是让AI可授权、可约束与可追责，主战场已从模型层转向运行时层。提出涵盖身份至审计的七层控制模型与八大核心风险地图，强调企业壁垒在于构建统一安全控制平面。建议按九十天路线图从盘点识别到试点验证分步落地，优先切入低风险场景，避免初始即赋予闭环自治权限。 综合评分： 82 文章分类： AI安全,安全建设,威胁情报,应急响应,软文广告
智能体安全研究报告
安全进化论
2026年7月13日 14:30 广东
在小说阅读器读本章
去阅读
SECURITY RESEARCH · 2026
智能体安全研究报告
从大模型安全到可控行动系统 工具 · 沙箱 · 权限 · 审计 · 威胁模型 · 控制平面 · 落地路线
清新研究团队 丨 2026年6月 丨 80页
7
层控制模型
8
类核心风险
5
级成熟度模型
90天
落地路线图
“安全不是Agent的刹车，而是规模化的发动机。”没有安全控制，Agent只能停留在小范围实验；有了权限、工具、沙箱和审计，Agent才能进入生产。这份80页报告系统梳理了智能体安全的完整框架——从定义边界、威胁模型到控制平面、评测运营和落地路线。
一、核心判断：Agent不是按钮，是有权限的运行时
报告开篇即给出核心定义：智能体安全 = 让会行动的AI可授权、可约束、可追责。智能体能规划、调用工具、保持状态并影响外部系统。安全目标不是让模型永远不犯错，而是让错误不会无约束扩散。
AGENT SAFETY 公式
Identity + Policy + Tools + Logs
身份 + 策略 + 工具 + 日志
📋 大模型时代
主要风险是内容风险——输出质量和内容边界
⚡ 智能体时代
主要风险是行动风险——能否代表用户或系统采取行动
同一个错误，在大模型中可能只是回答偏差，在Agent中可能变成邮件外发、数据改写或生产事故。安全主战场已从”模型层”转向”运行时层”——工具调用、数据流、身份授权和日志追踪决定生产风险。
📌 三个核心判断
1. 只靠提示词无法保证工具调用和外部动作安全
2. 企业壁垒在于安全控制平面，而不是单个模型
3. Agent能力会商品化，安全部署能力不会自动商品化
⚠️ 企业常见三大误区
误区一
把智能体当成”更强客服机器人”，低估风险
误区二
让Agent继承用户全量权限
误区三
先接业务系统，后补审计和审批
🏛️ 国家级安全议题
CISA/NSA（2026年）发布Agentic AI安全采用指导，强调分层防御、严格访问控制、人类监督和渐进式部署。
NIST明确区分普通聊天机器人与”行动型智能体”——关注能采取行动并影响外部状态的AI agent systems。
OpenAI 2026年推出支持沙箱执行的Agent SDK，强调受控工作空间和防火墙的重要性。
二、七层控制模型：从身份到审计的完整链路
报告提出七层控制审计模型，覆盖Agent安全设计的完整链路。模型只是其中一个组件，安全设计必须覆盖”模型→工具→权限→上下文→记忆→沙箱→审计”全链路。
L1
身份层 — 谁在执行动作
Agent必须有独立身份和代理链路；不要长期持有用户账号凭证；每次调用记录用户→Agent→服务账号→审批链
L2
权限层 — 能做什么
按任务授予，不按用户全量继承；只读→草稿→半自动→自动执行分级；权限应短期、可撤销、可观测
L3
工具层 — 通过什么做事
每个工具需要描述、schema、权限、风险标签；工具返回内容不能自动变成高优先级指令；调用前后策略检查
L4
上下文层 — 读到了什么
不可信数据必须标记和隔离；网页、邮件、PDF、工单都可能含恶意指令；指令与意图隔离区，不可信内容可引用但不能覆盖规则
L5
记忆层 — 记住了什么
长期记忆把一次攻击变成持续偏差；敏感偏好、权限例外不能随意写入；记忆必须支持版本、删除和回滚
L6
沙箱层 — 在哪里执行
代码、文件、命令操作必须隔离；默认关闭不必要网络和主机权限；高风险任务使用快照、资源限制和回滚
L7
审计层 — 如何追责和回放
Action Ledger记录每次工具调用、参数、结果、批准人和时间戳；日志可搜索、可回放、可导出；接入SIEM和告警系统
👤 人工层 — 什么时候必须人审
人不是装饰，而是高风险动作的控制点。不可逆动作（资金、法律、医疗、生产变更）必须设置人工门。审批界面要解释差异、来源和风险，防止”审批疲劳”。
三、八大核心风险地图
报告参考OWASP Top 10 for Agentic Applications (2026)，梳理出八类核心风险，从目标到工具、身份和供应链展开。其中目标劫持、工具滥用、身份滥用是前三个高频风险；记忆污染、上下文投毒会让风险跨任务持续；沙箱逃逸、供应链污染和多Agent级联会扩大事故范围。
🔴 风险1 · 目标劫持
攻击者让Agent偏离真实任务，恶意网页或文档把”数据”伪装成”指令”。防护重点：不可信输入隔离 + 敏感动作审批。
🟠 风险2 · 工具滥用
同样一句错误回答，接上工具后可能变成真实删除或外发。工具必须有schema、allowlist和执行前策略检查。
🟡 风险3 · 身份与权限滥用
过宽权限会把小漏洞变成大事故。服务账号、用户凭证和连接器权限需分开管理。短期令牌和任务级授权是基础控制。
🟢 风险4 · 私有数据泄露
Agent可能在无攻击者时也过度分享。工具调用会把上下文发送到外部系统或MCP Server。需DLP、数据最小化和输出过滤。
🔵 风险5 · 记忆与上下文污染
一次污染可能影响未来很多任务。恶意偏好、伪规则、伪联系人可能被写入记忆。写入要可见、可审批、可回滚。
🟣 风险6 · 意外代码执行
文件处理、脚本、shell、STDIO都可能触发任意代码执行。MCP和沙箱环境尤其需要实现层防护。默认禁用不必要出网和宿主机访问。
⚫ 风险7 · 供应链污染
风险不仅在模型和代码仓库，也在MCP插件、工具描述和RAG内容。第三方工具需版本锁定、签名和供应商审查，纳入SBOM。
🟤 风险8 · 多Agent级联失败
一个Agent的错误可能成为另一个Agent的输入。多Agent协作提升效率也增加信任传递风险。Peer输出默认不可信，必须校验来源、权限和证据。
⚡ 补充风险
提示词注入：最危险的注入往往来自用户看不见的内容——网页、邮件、PDF和工具输出中。目标可能是数据外泄、工具误调用或改变模型行为。
人机信任利用：Agent可能让错误建议看起来很确定。审批界面若缺少差异和风险解释，会诱发误批准。
行为漂移与规格博弈：可能为了完成任务走捷径。复杂任务应设置阶段性检查和退出条件，把”完成任务”与”遵守边界”同时写入评测。
📊 宏观威胁环境
$200亿+
FBI 2025年网络犯罪损失
2,000+
NIST NVD新增CVE（2025）
↑↑
外部攻击压力持续上升
🎯 风险场景分级
| 等级 | 典型场景 | 策略 | | — | — | — | | 高风险 | 资金、医疗、法律、身份权限、生产变更 | 人工审批 + 独立验证 | | 中风险 | 客户外发、公开发布 | 内容与授权控制 | | 低风险 | 知识检索、工单分类、报告草稿 | 先行试点 |
四、安全控制平面：从单点防护到统一管控
报告的核心主张：企业壁垒在于安全控制平面，而不是单个模型。Control Plane是横向基础设施——业务Agent通过控制平面访问工具和数据，安全、数据和业务共享同一套证据链。任何单点控制都不足以支撑生产级Agent。
CONTROL PLANE — 安全控制平面
📋 Agent Registry Agent清单管理
🔧 工具注册中心 黑盒→可治理资产
⚡ 策略引擎 每次动作前生效
🔐 最小权限 短期任务级令牌
🛡️ 上下文防火墙 数据与指令分离
📦 DLP数据最小化 能读≠能带走
🏖️ 沙箱执行 隔离·资源限制·回滚
✋ 人工审批门 风险解释+差异预览
📝 Action Ledger 可追踪·可回放
🔌 熔断与回滚 能停比能跑更重要
🔑 关键控制点
Agent Registry — 先看见才能治理
登记每个Agent的Owner、模型、工具、权限、数据域和风险等级。未登记Agent不得访问企业工具。
策略引擎 — 系统层执行
策略不是写在提示词里，而是在系统层执行。工具调用前检查身份、任务、数据和动作，支持业务例外但必须记录审批。
上下文防火墙 — 数据与指令分离
把不可信变量放入隔离区。OpenAI建议优先开发者消息，工具输出标签应贯穿RAG、工具输出和记忆。结构化输出可减少攻击面。
熔断机制 — 能停比能跑重要
异常失败时自动停止、权限频率预算触发熔断、提供人工接管和回滚入口。高风险Agent必须预先设计事故剧本。
五、评测、监控与运营：把安全变成持续能力
上线后才是安全工作的开始。评测不是上线前一次性测试，而是持续运行。任务成功率只是第一层指标，更关键的是注入抵抗、越权率、泄露率和恢复能力。
✅
任务成功率
第一层指标
🚫
违规率
越权/注入/泄露
🔄
恢复能力
事故后能否回滚
| 评测类型 | 测试重点 | | — | — | | 注入红队 | 模拟网页、邮件、PDF和工具输出中的恶意指令；测试间接提示注入和跨工具传播 | | 工具调用评测 | 测试错误参数、越权参数、恶意URL、边界值；检查Agent是否会调用不该调用的工具 | | 数据泄露评测 | 构造含敏感字段的上下文，测量外发、摘要、日志和工具传输中的泄露 | | 记忆污染评测 | 测试攻击是否能留下长期影响，观察后续任务是否受影响，评估记忆审查和回滚流程 | | 沙箱逃逸评测 | 测试命令注入、路径穿越、网络访问和凭证读取；沙箱日志支持安全复盘 | | 运行监控 | Agent心跳、工具调用频率、异常拒绝、数据外发、高风险审批；日志接入SIEM和告警平台 |
🚨 Agent事故响应剧本
1
Detect 检测
2
Contain 遏制
3
Eradicate 根除
4
Recover 恢复
确认→暂停Agent→撤销令牌→冻结工具→保全日志→复盘还原上下文和工具链→修复后重跑红队和回归评测。
📈 指标看板 — 安全与业务一起看
98%
业务：返工率低
0
安全：越权拒绝
23%
安全：泄露拦截
95%
治理：登记率
90%
治理：评测覆盖率
100%
治理：日志覆盖率
六、治理、组织与合规
Agent越多，越需要规则。治理不是阻碍效率，而是释放可控规模。没有清单就没有治理，没有权限边界就没有安全，没有日志就没有责任。
👥 三方责任三角
🎯
业务Owner
定义任务边界
⚙️
技术Owner
负责实现与运维
🛡️
安全Owner
定义威胁模型与控制要求
高风险Agent必须经过评测、审批和事故演练。安全、数据和业务共同管理。
📊 四级风险分级 — 不同通道上线
| 级别 | 特征 | 数据敏感度 | 动作影响 | | — | — | — | — | | L1 只读辅助 | 检索、查询、建议 | 低 | 低 | | L2 草稿建议 | 生成草稿，需人工确认 | 低 | 高 | | L3 半自动执行 | 自动执行低风险部分 | 高 | 低 | | L4 闭环自治 | 全自主执行高风险操作 | 高 | 高 |
数据敏感度和动作不可逆性共同决定风险等级。等级越高，控制越强。大多数企业应先稳定在L2-L3。
📈 五级成熟度模型
L1
不可见
L2
受限工具
L3
半自动
L4
闭环自治
L5
高保证自治
从不可见到高保证自治——大多数企业应先稳定在L2-L3。
📋 合规边界
中国生成式AI服务需关注备案、内容安全和数据保护要求；生成合成内容需关注显式和隐式标识义务；Agent外发内容和自动操作需要完整证据链。Agent也应纳入NIST SSDF和CISA Secure by Design安全开发生命周期。
七、90天落地路线图
报告给出三阶段落地路线，从可见、可控到可停，逐步建立Agent安全控制平面。
Phase 1 · 0-30天盘点 · 识别
目标：盘点Agent和高权限工具，识别关键资产，建立基础清单。
✓ 建立Agent Inventory（Owner、模型、工具、权限、数据域） ✓ 识别高权限工具和高风险场景 ✓ 确定优先试点范围
Phase 2 · 30-60天基线 · 策略
目标：建立权限、日志、审批基线，制定安全策略，完善审计记录。
✓ 实施最小权限和任务级令牌 ✓ 部署Action Ledger和日志接入SIEM ✓ 建立人工审批门和策略引擎 ✓ 完善审计记录和证据链
Phase 3 · 60-90天试点 · 验证
目标：选择低风险试点，验证防御有效性，发现潜在漏洞。
✓ 选择低风险、高频、可回滚任务试点 ✓ 运行注入红队和工具调用评测 ✓ 验证沙箱、熔断和回滚机制 ✓ 出评估报告，形成闭环
💡 优先试点建议
✅ 适合先做
知识检索、工单分类、报告草稿、代码辅助测试
⚠️ 谨慎推进
外发邮件、客户承诺、财务操作、生产变更
❌ 避免一开始
高权限自治、闭环全自动执行
🎯 一年目标
✓ 形成Agent安全控制平面 ✓ 核心Agent接入统一控制平面 ✓ 高风险场景有独立评估和事故演练 ✓ 安全指标纳入业务Agent绩效
最终判断
“安全不是Agent的刹车， 而是规模化的发动机。”
没有安全控制，Agent只能停留在小范围实验。 有了权限、工具、沙箱和审计，Agent才能进入生产。 竞争力来自安全地规模化行动能力。
来源：清新研究团队《智能体安全研究报告》2026年6月 参考资料：CISA/NSA · NIST · OpenAI · OWASP · FBI 本文为报告精华解读，完整内容请参阅原文
本文提供80页完整版文件下载，请点击文末“阅读原文”。
*「智盾矩阵·大模型安全智库」帮会是FreeBuf知识大陆的重量级帮会，目前已入选FreeBuf钻石星选帮会——官方认证高信誉与高质量，帮会聚焦人工智能与大模型安全领域，致力于打造全球视野下的专业资源聚合平台。截止目前帮会已累计更新4700+文档资源，为从业者提供从理论到实践的全维度知识支持。*
公众号已发表帮会资源展示：
①政策、标准
香港生成式人工智能技术及应用指引
网络安全技术 生成式人工智能服务安全基本要求
网络安全技术 生成式人工智能数据标注安全规范
网络安全技术 生成式人工智能预训练和优化训练数据安全规范
网络安全标准实践指南——人工智能生成合成内容标识方法
网络安全标准实践指南——人工智能生成合成内容检测技术指南
关于通用人工智能模型提供者义务范围澄清指南的制定开展针对性咨询
通用人工智能模型提供者指南
政务大模型应用安全规范（征求意见稿）
人工智能通用大模型合规管理体系 指南
人工智能算法安全评估规范（征求意见稿）
工业和信息化领域人工智能安全治理标准体系建设指南（2025版）
生成式人工智能开发和利用个人信息处理指南
移动智能终端端侧大模型安全实施指南
安全应急大模型标准（征求意见稿）
政务大模型应用安全规范
《人工智能安全治理框架》2.0版
智能终端大模型应用评估规范
人工智能生成合成内容标识管理能力要求
智能体信任评估实施指南（征求意见稿）
生成式人工智能模型训练合规技术规范
智能终端大模型应用评估规范
智能体行为安全要求
大模型一体机产品安全基本要求
人工智能计算平台安全框架
人工智能数据处理伦理要求
人工智能通用大模型合规管理体系指南
生成式人工智能服务安全应急响应指南
大模型一体机产品安全基本要求
人工智能训练数据清洗安全指南
人工智能应用安全指引 总则
人工智能应用安全指引 广播电视和网络视听
用户使用人工智能服务安全指南
智能体安全评测规范
智能体任务执行安全要求
生成式AI内容安全与伦理审查规范
人工智能网络安全框架规范
智能体人工智能模型治理框架
网络安全标准化技术研究报告-智能体安全标准化研究
重磅发布 | TC260-005《人工智能应用伦理安全指引》全文
人工智能算法评估规范
大模型服务与应用安全评测技术规范（征求意见稿）
②行业解决方案
大模型时代下的安全挑战及应对
腾讯大模型安全治理实践
360集团应用安全和基础安全建设实践
大模型与智能体安全风险治理与防护
AIGC安全评估解决方案
京东云大模型安全实践
安全大模型发展路径洞察与实践
LLM-WAF：大模型安全防护
供应链风险决策大脑：驱动供应链风控迈向智能决策时代
③行业技术报告
Agentic AI安全技术应用报告
AI 组织责任：治理、风险管理、合规与文化方面
人工智能安全作为全球公共产品：影响、挑战与研究重点
AI应用于进攻性安全
人工智能法律政策图景研究报告（2025年）
云上人工智能安全发展研究报告（2025）
大模型训练数据安全研究报告
智能体安全实践报告
前沿人工智能风险管理框架
生成式人工智能与著作权：训练、创作及监管
AI风险缓解措施的研究报告
安全优先的大模型研究报告
AI赋能主动防御技术应用指南（2025版）
AI时代数字身份安全技术应用指南
AI时代网络安全产业人才发展报告（2025年）
端侧大模型安全风险与治理研究
人工智能治理案例集（2025）
机密计算保障人工智能系统安全研究报告
算力网络数据安全研究报告
人工智能安全研究报告——技术视角下的安全风险梳理与应对（2025）
金融大模型应用安全研究报告（2025）
AI模型风险管理框架
智能化安全运营中心应用指南
大模型组件漏洞与应用威胁安全研究报告
安全智能体魔方：成熟度模型评价研究报告
金融生成式AI多模态内容鉴伪与安全防御报告（2025）
2025全球可信AI治理与数据安全报告
AI时代Agent原生企业崛起-现状、趋势与风险控制（2025版）
AI安全：构建负责任且可靠的系统
Google Gemini AI安全性与红队报告
AI安全指数报告
人工智能安全与治理现状报告
开源大模型法律风险及防范
2025年度全球人工智能治理报告
智能物联网（AIoT）安全技术与应用研究报告（2025年版）
通信行业人工智能数据治理实践指南
人工智能推动金融数据治理转型升级研究报告
人工智能安全治理研究报告（2025年）
数据治理研究报告-端侧大模型数据治理法律要点研究
人工智能3.0：智能浪潮下的法律、博弈与战略报告
行业数智化AI安全实践研究报告
人工智能用户权益保护关键问题研究报告
人工智能安全指数报告
人工智能治理研究报告（2025年）
OpenClaw运行机制与安全威胁研究
2026年国际人工智能安全报告
2026前沿人工智能风险管理框架报告
最全企业级安全养虾教程
Openclaw安全实战指南
AI与数据合规-境内外资讯三月刊
AI 幻觉深度研究报告
智能体安全新范式 | 360 AI安全研究院
360漏洞研究院：2026年OpenClaw生态安全风险分析报告
AI塑造安全新范式——2026年中国AI XDR市场研究
AI智能体安全趋势报告（2025）：前沿能力、风险与防护全景
OWASP智能体AI安全与治理现状报告2026
AI大模型安全评估及防护技术应用指南（2026）
AI大模型合规指南（合规99问）
2026国际人工智能安全报告深度解读
AI生成内容安全及风控管理技术应用指南
④行业技术白皮书
终端智能体安全2025
AI风险控制实践白皮书
医疗健康大模型伦理与安全白皮书
人工智能安全治理白皮书
AI基础设施安全白皮书（2025）
AI智能体安全治理白皮书
大模型安全密码应用白皮书
金融人工智能发展与安全白皮书（2025）
阿里云百炼安全白皮书（2025）
智慧城市低空应用人工智能安全白皮书
AI 隐私安全白皮书
大模型安全白皮书
华为算力基础设施安全技术白皮书
AIGC全生命周期业务风控白皮书
AI-R-SOCC AI就绪的安全合成管理中心白皮书
低空智能网联网络与数据安全体系白皮书（2025）
以新质战斗力引领“AI+”时代网络安全
中国Data&AI数据基础设施白皮书
人工智能安全风险测评（2025 年）-白皮书
生成式 AI 安全白皮书
移动终端智能体隐私安全白皮书
AI安全合规白皮书
AI时代数据治理白皮书2025
AI 网络爬虫安全白皮书
AI智能体的实践应用：评估与治理基础框架白皮书
具身智能安全技术白皮书：机器人篇
火山方舟大模型服务安全白皮书解读：全周期安全可信，会话无痕
华为星河AI园区全域安全技术白皮书
⑤行业技术论文
在MCP驱动的智能代理系统中识别和缓解第三方安全风险
LLM驱动的AI Agent通信：协议、安全风险与防御对策
⑥实务手册指南
⼤模型及多智能体系统安全⻛险分析和洞察
AI 安全⻛险评估和控制指南
生成式AI红队百次测试经验白皮书
大语言模型Prompt攻击手册
AI迷思录（应用与安全指南）
Agentic AI 红队测试指南
AI安全的红队测试方法指南
AI安全与数据保护中的法律与合规
涉及个人数据的安全AI系统基础
大型语言模型 (LLM) 安全风险、案例与防御策略
LLM越狱攻击与防御框架
生成式人工智能服务备案表&登记表
AI智能体运行安全测试标准
大模型安全威胁框架
大模型安全开发手册
人工智能安全承诺实践披露
人工智能控制矩阵
大模型 私域部署安全落地参考手册
人工智能系统开发测试与评估指南
前沿人工智能模型安全框架示例
红队AI：攻击与防御智能系统
prompt越狱手册
覆盖700余种风险，MIT发布最全AI风险数据库
人工智能系统风险管理指南
AI大模型合规100问
OWASP 智能体应用 Top 10 2026
智能体应用程序安全指南
AI智能体—威胁与缓解措施
生成式人工智能服务合规备案指南（2026年）
OpenClaw极简安全实践指南
OpenClaw网络安全风险分析和防护措施指南
OpenClaw（龙虾）专项安全风险预警以及建议防护方案-奇安信
OpenClaw安全风险分析及防护建议-启明星辰
AI安全新人扫盲
OpenClaw安全部署与实践指南（360护航版）
云上养虾（OpenClaw）安全指南
OpenClaw安全操作指南
AI Red攻防指南
OpenClaw 部署与安全使用指南 | 企业AI智能体落地实践
OpenClaw安全配置与防护指南（2026）
OpenClaw类智能体部署风险管理指南
生成式人工智能行业网络数据安全风险评估工作手册
⑦行业大会分享PPT
Deepseek应用场景中需要关注的十个安全问题和防范措施
大型语言模型（LLMs）安全防护指南
大模型驱动安全升级：腾讯代码安全应用实践
百度端侧大模型的安全建设：如何在算力与保障之间找到平衡
京东大模型安全挑战与实践：构建AI时代的安全防线
大模型平台与应用安全防护
LLM内容安全性的挑战与优化从数据到算法
MCP协议标准化研究工作沙龙—— 大模型与智能应用的信息交互主题精彩回顾
DeepSeek R1技术复现与大模型的治理与安全
AI重构全球数字基建：美的多云统一数字化底座与出海的安全合规建设
金融AIGC安全攻防构建大模型时代的数字内容风控体系
教育大模型评测体系构建与场景化测试实践
大模型幻觉检测在垂域任务的应用实践
AI赋能eBay支付风控：从用户行为到交易安全的全面智能化
大模型驱动的账户风险管理
代码大模型的安全问题 – 终端用户与模型供应商的双重视角
论如何控制大模型
大模型驱动的数据清洗与数据合规
百度基于大模型安全运营的质效提升实践
大模型上线备案&算法备案全析
AI Agent应用攻击面漫谈
LLM 间接提示注入 漏洞解析与防御路线
大模型合规安全审计
LLM&Agent安全防护实战：业务落地视角下的风险管控与解决方案
AI安全提示词注入分享
火山引擎AI安全保障实践
AI赋能红队的技术实践与效能突破
组件安全：AI检测与漏洞利用路径预测
智体赋能：基于大模型Agent的自动化渗透测试框架设计与实践
腾讯大模型安全治理实践
大模型驱动的自动化渗透测试边界突破实践
AI大模型在数据安全领域的实践探索
AI算法可信安全：如何从根本上打破AI黑盒
在幻觉与超能中前行：大模型参与安全运营的应用探索
微步安全AI实践
AI智能体安全治理的认识和实践
大语言模型中的事实性幻象
大模型安全治理与评测体系化研究与实践
人工智能时代的个人信息保护：挑战与机遇
AI赋能的DevSecOps自动化安全实践
LLMAgent安全攻防战从架构风险到应用实战剖析
AI生成代码安全边界测绘与选型指南
百度大模型 原生安全构建之路
大模型安全考量：安全的大模型解决方案
DeepSeek赋能安全运维智能化转型的实践之道
AI数据资产体系建设：从数据处理到模型评估的全生命周期闭环
从技术赋能到范式革新：快手安全大模型驱动内容审核智能化重塑
面向AI场景：可观测平台在安全运营体系建设中的实践
APP隐私合规检测-AI隐私文本分析模型
大模型安全风险与对抗实践培训
AI赋能红队的新优势
OWASP大模型安全Top 10分析与实践
智能体应用和大模型安全评测实践
检测与响应：大模型与SOAR驱动的自动化漏扫运营
攻防加速：大模型赋能 VxWorks 漏洞分析与验证效能革新
大小模型协同驱动安全升级-基于大小模型协同的数字内容风控实践
面向未来的DevSecOps：Kodem如何用AI重塑应用安全
隐私不上云，模型放心用：通过结构化语义标签实现隐私防火墙
基于Spec Driven范式，开发安全可控的SRE智能体
NLP类AI系统鲁棒性评测挑战与实践
AI驱动的智能体、车端协议与供应链安全闭环
LLM白盒检测水平越权漏洞实践
AI辅助整车信息安全TARA分析探索
大模型供应链安全的熵增效应：风险挖掘与熵减策略
AI与安全的双向赋能：从对抗到防御
基于大模型Agent构建自动化渗透测试平台的探索
AI落地软件开发的实践与挑战（华为）
攻击者视角下的业务智能体渗透
构筑智能化攻防格局_网络安全实验室的战略与未来蓝图
企业内部的渗透测试自动化探索
机遇和挑战：大模型及其生态的安全性和脆弱性
AI红队攻防实践
大模型应用落地安全风险和防护实践
轻装上阵_Javassist聚焦代码审计关键点实践
安全领域大模型构建范式与实践
安全智能重构：大模型安全应用研究前沿
基于大模型的安全智能中心CIC Pro
SecGPT赋能网络安全-MCP助力下的创新与挑战
大模型供应链安全风险技术拆解与案例复现
从应用落地到安全护航：Agent系统的开发实践与可信防御
揭秘黑灰产AI的潘多拉魔盒
大模型及其智能体安全
产品视角下的安全革新：AI漏洞猎人如何破解代码漏洞挖掘痛点
智算安全可信行业观察
Fuzzing4LLM：撬动大语言模型的安全对齐机制
AI 渗透的蜂群思维-轻量级多Agent协同与实战复盘
AI驱动二进制安全-从静态到动态的探索
Agentic AI时代下的应用安全演进
基于AI的车联网渗透及法规检测
多智能体协同驱动的自主进化渗透测试系统
大模型驱动下的稳定与安全双螺旋——从“事后救火”到“主动免疫”的技术进化
Cruiser：CTF Agent实现探索
AI上车的安全合规分析与实践
AI时代的新型威胁-企业防范AI投毒与AI幻觉指南
360基于大模型赋能的网络安全解决方案
AI 红队智能进化大模型与智能体驱动的自动化渗透测试及安全验证
AI驱动下石油石化行业的安全新挑战与协同应对
人工智能安全与可信赖AI验证技术
企业网络安全智能防御体系建设与实践
Skill赋能安全测试：AI Agent安全能力扩展实战指南
企业智能应用研管平台的建设及安全防护策略研究
智能革命时代：自主智能体兴起与安全范式重塑
大模型 Prompt 越狱：原理、方式与现实危害
石油石化设备安全运维大模型及AI智能体
新疆油田网络安全防护智能体研究
Sunny Duan-智能体安全：基于AI Native的防御架构和实践
Agent记忆系统在eBay支付风控团队的探索与实践
大模型服务的安全防线：全栈式风控与Token可信调用实践
从”跑分”到”护栏”：AI Agent 可观测与质量保障体系
AI漏洞检修最佳实践 | 京东神医智能体
AI驱动的自动化威胁狩猎
AI智能体-安全运营数字人实践
让智能体可观察可评估可进化构建面向智能体的新一代可观测评估体系
大模型助力安全运营
免责声明：以上报告均系通过公开、合法渠道获得，版权归原撰写/发布机构所有，如涉侵权， 请联系及时删除；内容为推荐阅读仅供参考学习，如对内容存疑请与原撰写/发布机构联系。
戳底部“阅读原文”或扫描上面交流群群主二维码扫码加入获取文档，打广告者勿扰。
点分享
点收藏
点在看
点点赞
免责声明：
本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。
任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。
本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。
本文转载自：安全进化论 《智能体安全研究报告》
版权声明
本站仅做备份收录，仅供研究与教学参考之用。
读者将信息用于其他用途的，全部法律及连带责任由读者自行承担，本站不承担任何责任。
评论