长亭发布AI安全新品驭元(Sentra),构建Agent安全治理闭环
原创
夺旗猫
夺旗猫
长亭科技
2026年10月16日 17:01
北京
在小说阅读器读本章
去阅读
在公众号小说中沉浸阅读
2026年9月,全国网络安全标准化技术委员会发布《人工智能安全治理框架3.0》,将智能体安全风险单独列出,并围绕权限滥用、工具调用、数据泄露等问题提出治理建议。
与此同时,《智能体应用安全基本要求》与《数据安全技术 智能体数据处理安全要求》两项国家标准正在制定中,分别围绕智能体的权限与操作安全、数据处理全过程的安全保护细化要求。
对企业而言,随着 AI 从回答问题走向执行任务,安全治理也进一步延伸到它实际做了什么、如何完成任务。Agent 已经开始接入生产与业务流程,在提升效率的同时,带来了全新的安全风险:
- 资产失管风险:员工自行部署、定制的 Agent 分散运行,企业难以掌握其使用范围、接入资源与安全状态。
- Agent 运行范围混乱风险:Agent 分布在员工终端、服务器与云端 Sandbox(沙箱)等环境,员工自行部署的 Personal Agent(个人智能体)也可能接入企业业务资源,运行位置、访问边界与责任归属难以统一管理。
- 工具扩展风险:来源不明的 Skill、未经批准的 MCP 和模型中转服务,可能引入恶意指令、可疑代码或不可信的数据接收方。
- 任务执行违规风险:多个看似正常的读取、执行和传递动作,可能在连续执行中形成违规行为,单次操作的权限检查难以识别。
- 敏感数据泄露风险:业务数据、源代码和访问凭据可能随用户输入、工具返回及后续调用,被传递给未经授权的外部服务。
为此,长亭科技正式发布 驭元(Sentra),一款面向企业 AI Agent 使用场景的 AIDR(AI Agent Detection & Response,AI Agent 检测与响应)产品。
驭元 以“以 AI 治理 AI”为理念,让安全 Agent 理解任务上下文,实时识别业务 Agent 执行中的风险。
Agent 资产与工具扩展带来管理盲区
未知 Agent 带来的资产盲区
个人 Agent 的运行环境正从员工电脑延伸到服务器与云端。以Grok bot 为例,用户可以将其部署在云服务器上,通过电脑或手机远程使用。员工自行搭建、按岗位定制的 Agent,让企业需要管理的对象从一批标准化 AI 应用,扩展为分散部署、持续运行的个人与业务助手。
这些 Agent 的名称、代码和部署方式各不相同,仅凭已知应用清单,难以完整掌握实际使用情况。未被发现的 Agent 仍可能持有业务凭据、读取敏感数据并调用外部工具;其接入的 MCP 服务、Skill、定时任务和模型服务也会持续变化。资产不可见,意味着企业难以确认谁在使用 Agent、它接触了哪些资源,以及是否已纳入安全管控。
针对 Agent 形态多样、部署分散与配置持续变化的问题,驭元将已知资产发现与基于行为特征的未知 Agent 发现相结合,帮助安全团队识别未被现有资产清单覆盖的Agent。结合扩展组件梳理、风险扫描与周期核查,持续掌握 Agent 的使用范围及相关风险。
- Agent资产发现:发现终端上的 Agent,以及 Skill、MCP 服务、Memory、定时任务和模型服务等相关资产,帮助安全团队掌握实际使用范围。
- 未知Agent发现:基于运行行为特征识别未知 Agent,为核查员工自行部署或定制、尚未纳入资产清单的 Agent 提供线索,减少仅依赖已知应用识别带来的发现盲区。
- 风险扫描:集中展示扫描发现的资产风险,为核查工具来源和配置隐患提供依据。
- 周期扫描与集中管理:统一查看各终端的资产与风险,按周期持续扫描,跟进 Agent 及其扩展的变化。
模型中转服务的接入风险
当员工为降低调用成本或方便接入,将 Agent 的模型接口配置为未经审核的中转站时,提交给 AI 的源代码、客户合同、经营报表,以及工具自动读取的内部文档,都可能先经过中转站运营方,再被转发至模型服务。界面上显示的模型名称,并不能说明请求实际经过了哪些服务、由谁接收和处理。
如果中转站记录请求或留存内容,企业的敏感数据就可能形成一份不受自身控制的外部副本。谁能访问、保存多久、是否继续转发,企业可能无从确认;一旦发生泄露,也难以还原完整的数据流转过程。一次未经审核的接口配置,可能让日常 AI 使用成为持续向不可信第三方传递业务数据的通道。
针对未经审核的模型中转服务带来的数据暴露风险,驭元从 Agent 实际接入的模型服务入手,将服务发现、访问控制与数据去向分析结合起来。重点关注未经审核的接入地址,并将接收方信息纳入会话与数据内容的关联分析,帮助企业落实模型服务的使用范围。
- 模型服务发现:识别 Agent 实际接入的模型服务,在管控端集中展示,帮助管理员核查是否存在未经审核的接入地址。
- 模型访问控制:对访问指定模型服务的连接按企业规则记录或阻断,将允许使用的服务范围落实到实际连接。
- 数据去向关联分析:将模型服务信息作为接收方上下文,与会话和待传递内容关联,为判断本次数据传递的风险提供依据。
Skill 恶意指令与代码风险
Skill 中的指令、脚本及附带文件会影响 Agent 的执行行为。来源不明的 Skill 可能包含恶意指令或可疑代码,将风险引入任务执行过程。
针对 Skill 的安全风险,驭元结合大模型分析、静态检测与云沙箱动态检测,从指令意图、文件特征和实际运行行为评估风险,为企业核查和使用 Skill 提供依据。
- Skill 大模型检测:分析 Skill 的指令与文件内容,结合语义理解和逻辑推理研判上下文与意图,识别潜在风险。
- Skill 静态检测:在不执行文件的情况下,分析文件结构、代码文本、字符串及元数据等信息,识别可疑特征。
- Skill 云沙箱检测:在云端隔离、受控的沙箱中执行可疑文件或代码,观察进程创建、网络连接、文件读写及注册表修改等运行行为,为判断 Skill 是否存在恶意行为提供依据。
MCP 工具滥用风险
MCP 服务扩展了 Agent 可调用的工具与数据接口。未经批准或存在风险的服务接入,可能使 Agent 接触不应使用的资源,或将业务数据传递给未经审核的服务方。
针对这类接入与使用风险,驭元提供 MCP 禁用与网关接入管控,帮助企业明确可使用的工具服务范围,并将访问要求落实到工具调用过程。
- MCP 禁用管控:支持禁用指定 MCP,限制未经批准或存在风险的工具服务使用,将企业对工具的使用要求落实为管控措施。
- MCP 网关接入管控:通过统一网关管理 Agent 对工具服务的访问,将经网关接入的工具及调用纳入企业管控范围。
正常操作背后的违规风险
Agent 单个操作符合权限要求,并不意味着整个任务过程合规。业务 Agent 可能在合法身份和正常授权下,通过连续的数据读取、文件操作与工具调用,形成敏感信息泄露风险,员工也未必意识到其中的问题。
例如,HR Agent 为完成薪资分析读取员工薪资记录,属于正常业务操作;如果随后将这些数据写入 U 盘,或发送给未经批准的外部 MCP 服务,就可能违反企业的数据保护要求。判断这类风险,需要关联前面读取了什么、后面准备做什么,以及数据将流向哪里。
场景示意:薪资读取与后续传递,需要结合任务上下文及企业策略评估风险
针对这类跨步骤形成的风险,驭元由 安全 Agent 持续分析任务上下文,将前序行为、数据内容与后续操作关联起来,依据企业策略评估风险,让防护判断随任务推进持续更新。结合文件访问防护、高危命令检测与会话审计,驭元进一步支持对具体风险动作的防护和追溯。
上下文风险研判与操作防护
- 跨步骤风险研判:由安全 Agent 关联任务目标、前序行为、敏感数据与流转去向,识别单次操作中不明显、在连续执行中形成的风险,并结合企业策略给出判断依据。
- 敏感文件访问防护:按路径、文件名、扩展名或内容配置读取规则,对命中的访问进行记录或阻断。
- 高危命令检测:检测编码脚本执行等高危行为,结合意图分析识别命令执行风险,并生成告警。
- 会话审计与操作追溯:展开用户指令、Agent 回复、工具调用和返回内容,核查风险动作前后的步骤,还原任务执行过程。
自动化数据流转中的敏感信息保护
敏感信息可能通过用户提交的提示词和文件进入 Agent,也可能由 Agent 调用工具自动读取。代码、日志和文档中的 API 密钥、访问令牌及业务数据,可能随工具返回内容进入后续模型请求,或被继续传递给其他工具和服务。
数据读取权限与数据外发权限需要分别判断。 获准读取的内容仍可能包含不应外发的信息。企业需要覆盖输入、工具返回和后续传递环节,结合数据内容、用途与接收方识别泄露风险。
针对敏感信息在任务执行中被读取和继续传递的风险,驭元在已适配的 Agent 中,将检测覆盖到用户输入和工具返回环节。尤其针对代码、日志和配置中的 API 密钥、访问令牌等凭据,通过内容检测与自动脱敏,降低原始凭据进入后续模型请求或工具调用的风险。
- 提示词与文件检测:检查用户提交给 AI 的提示词和文件,对命中企业规则的敏感内容进行提示或拦截。
- 工具返回内容防护:检查工具读取的文件与返回内容,识别敏感信息,并按规则提示或拦截,降低数据随任务继续传递的风险。
- 凭据自动脱敏:对 API 密钥、访问令牌等可识别的标准凭据进行自动脱敏,降低原始凭据进入模型请求或后续工具调用的风险。
敏感内容检测结果与任务、模型服务及后续动作关联后,可以为 Agent Loop 中的持续安全判断提供依据,使数据保护覆盖任务执行中的多个环节。
通过 Agent 完成安全运营
资产核查、策略配置与风险跟进,也对安全团队的日常管理提出了要求。驭元将 Agent 引入管理侧,辅助管理员梳理资产、构建策略和汇总报告,让“以 AI 治理 AI”进一步落实到日常安全工作中。
- 策略构建与配置辅助:由 Agent 辅助构建安全策略、管理配置,帮助管理员将安全要求落实为产品设置。
- 资产分析与梳理:由 Agent 辅助分析和整理资产信息,帮助安全团队掌握 Agent 及相关工具的使用情况。
- 报告与统计辅助:由 Agent 辅助完成报告统计,支持日常安全管理和信息汇总。
控制台围绕这一协作方式设计,接口采用便于 Agent 理解和调用的模型。管理侧帮助企业表达和维护安全要求,运行侧结合任务上下文落实判断与处置。
从 Agent 防护到企业 AI 安全治理
随着 AI 从辅助问答走向执行任务,企业需要同时管理模型资源、保护交互内容,并对 Agent 的实际操作持续落实安全要求。
驭元的发布,进一步将长亭的 AI 安全防护深入到任务执行过程,与 长亭的百智大模型网关、守元等产品共同构成覆盖模型接入、内容交互与 Agent 执行的企业级 AI 安全治理体系。
- 百智大模型网关:统一模型资源与接入入口,管理身份、权限、额度和调用成本,让企业的模型使用有据可查、有规可依。
- 守元:保护 AI 交互内容,识别提示注入、敏感信息及意图与工具调用风险,将安全要求落实到内容交互过程。
- 驭元 :发现 Agent 及其扩展资产,由安全 Agent 持续理解任务上下文,关联数据、行为与流转去向,识别并防护执行过程中形成的风险。
三者围绕企业 AI 使用过程协同防护,将策略管控、审计追溯与风险处置联动起来,形成统一治理闭环:从明确模型与工具的使用范围,到保护敏感内容、处置风险操作,再到还原任务过程与持续完善策略,让企业看得见 AI 的使用情况、管得住关键操作、追溯得清风险过程。
目前,长亭自身已部署并成功运行这套 AI 安全治理解决方案,将其应用于自身的 AI 使用与安全管理。
基于内部实践,长亭将持续深化“以 AI 驾驭 AI”的能力,让安全判断随任务上下文持续更新,让防护措施落实到实际执行,支撑企业在可控、可追溯的安全边界内规模化使用 AI。
欢迎联系我们,体验驭元,在实际业务中排查 Agent 资产、工具调用与敏感数据外传风险。让企业用清楚、管明白每一个 Agent,让 AI 应用落地更安心。
版权声明
本站仅做备份收录,仅供研究与教学参考之用。
读者将信息用于其他用途的,全部法律及连带责任由读者自行承担,本站不承担任何责任。









评论