AI Agent风险集中爆发，该怎么守住安全？

中孚信息

2026年10月13日 17:19
山东

在小说阅读器读本章

去阅读

在公众号小说中沉浸阅读

过去两年，AI Agent正从“文本回答”走向“任务执行”，它能读邮件、查数据库、调用API，甚至跨系统完成任务。行业把大量资源投向了模型能力、Agent框架与工具调用体系的军备竞赛，但安全防护却常常停留在表层拦截。一旦权限放开，风险就不再只是说错话，而是做错事，甚至被利用做坏事。

过去两个月，多起有关智能体越界事件报道，已经把这个判断摆到台前：

9月，OpenAI智能体为搜集数据，绕过网站防护越界访问澳大利亚政府医保系统，事件持续两个多月才被发现。

9月国家网络安全宣传周期间，2026年人工智能大模型安全众测活动对国内54款大模型及智能体应用产品进行漏洞测试，发现大模型及智能体应用特有漏洞608个，占比70%。

10月，Anthropic披露其下一款智能体模型擅自访问政府网站，并提交虚假凶杀案线索，事件发生两个月后才被发现。

10月，AWS Agent一个缺陷漏洞链被揭露， 攻击者可通过一条提示词诱导对外开放的智能体访问云内元数据服务并回传凭据，进而接管同一AWS账户与区域内的全部智能体。

这些事件共同指向一个问题：当智能体被提示词诱导、权限配置不当或任务执行判断失误，去调用不该调用的工具、执行不该执行的命令、访问不该访问的数据，安全风险就不再局限于内容层面，而是进入系统操作层面。更值得警惕的是，许多用户在使用智能体时，本身也难判定行为是否合规，甚至会让大模型出现“表面合规、实际越界”的表演式操作。当这类能力进入政务、机关等场景，数据与信息安全风险会被进一步放大。

那么，如何让智能体既能干活，又不闯祸、不被利用？

单点加固远远不够。真正需要的，是把安全能力嵌入智能体接入、运行与数据处理全过程。这正是中孚信息大模型与智能体安全防护平台的出发点。

中孚大模型与智能体安全防护平台

—— 面向大模型与智能体应用的全链路安全治理平台

随着大模型与智能体（Agent）逐步融入业务场景，安全不仅面临“模型输出是否安全”风险，还有“智能体行为是否可信”的风险。

大模型和智能体不仅会生成内容，在智能体自主规划任务、调用工具、访问数据、执行操作的过程中，一旦缺乏有效安全约束，可能出现提示词注入、越权访问、异常调用、数据外泄等风险。

中孚大模型与智能体安全防护平台聚焦智能体运行过程中的行为安全治理，围绕任务执行链路，持续监测智能体“做了什么”，实现从安全边界管控、运行过程防护到安全审计追溯的全链路闭环能力。

【典型场景】

提示词注入诱导智能体越权外发数据

某单位业务人员上传一份来自外部的项目建设材料，下发给智能体执行分析任务，在执行过程中，材料内部隐藏的恶意提示词诱导智能体派生异常子任务，调用外部通信接口，将分析结果发送至非授权渠道。

【中孚救场】

部署中孚大模型与智能体安全防护平台，为智能体应用建立覆盖使用边界、运行控制、审计追溯的安全治理体系。

平台实时监测智能体执行链路，识别到异常任务派生及受限工具调用请求后，依据安全策略立即阻断风险操作，确保数据未离开受控范围。

同时，平台完整还原智能体任务执行链路，覆盖用户输入、提示词注入、异常行为产生、风险识别与阻断的全过程并支持通过策略管理持续优化防护规则，实现安全能力闭环提升。

01

安全边界管得住，防止大模型成为新的风险通道

平台通过策略与权限体系，对智能体应用范围、知识访问权限、工具调用能力进行统一管理。明确“哪些数据可以访问、哪些能力可以调用”，避免原有业务权限因接入智能体而被突破。

02

运行过程可控制，把安全控制嵌进大模型运行过程

平台实时监测智能体运行状态，对提示词注入、敏感信息访问、知识越权、异常工具调用、违规数据外发等风险行为进行识别，在关键环节提前发现风险，并根据策略进行告警、限制或阻断。让安全防护从“事后追溯”转变为“过程管控”。

03

出现问题能查清，让大模型的安全责任可落地

平台完整记录智能体执行过程中的模型调用、工具调用、数据访问及关键操作行为。当安全事件发生时，可快速定位：谁发起了访问、触发了哪项规则、执行了什么操作、风险在哪里产生。通过完整审计链路，实现安全事件快速分析与精准处置。

大模型与智能体正在成为企业智能化应用的重要入口，而安全能力也需要从传统的内容防护，进一步延伸至对智能体行为全过程的治理。

中孚大模型与智能体安全防护平台，以统一身份为基础、内容和行为管控为核心、全链路审计为保障，构建面向智能时代的智能体安全防护体系。锚定“智能可用、过程可控、风险可见、责任可追”四大核心目标，直击智能体运行全流程安全痛点，为智能体应用构建覆盖全生命周期的安全保障体系。