企业智能体安全评估：从“个人助手”到“组织员工”的分水岭

原创

软信事业部
软信事业部

中国软件评测中心

2026年11月2日 18:49
北京

去阅读

随着企业智能体（Agent）从信息问答、办公辅助等基础场景，逐步进入采购、财务、数据治理与决策辅助等核心业务环节，企业智能体的安全风险及治理需求正在发生变化。企业真正需要关注的，不仅是模型能否生成安全、准确的回答，更是智能体在真实业务环境中能否遵循组织规则、严格执行权限约束，并在出现异常时及时阻断风险。例如，绕过审批流程直接下单、子Agent继承超出任务需要的权限、身份凭证跨任务复用、跨部门敏感数据泄露、共享记忆遭到污染，以及模型或工具异常时触发不安全的回退操作等。

近日，中国软件评测中心完成了对浙江创邻科技有限公司旗下GraphoraX知域灵枢平台软件的企业智能体组织级安全风险评估，并出具评估报告。本次评估覆盖企业级动态权限、目标与行为、多智能体协作与共享状态、审计与治理、智能体运行时共五大安全面，围绕企业智能体平台在组织环境中的权限裁剪、审批前置、凭证隔离、委派防污染、模型路由等26项关键能力测试点开展系统性验证，为企业智能体安全评估与规范化应用提供实践参考。

一、现有Agent安全评估面临的新挑战

当前，Agent安全评估领域已形成多种具有代表性的技术工具与评估方案，例如Microsoft PyRIT、NVIDIA Garak等。这些工具在模型安全测试、对抗性攻击检测、提示词注入风险识别等方面各具特色，为识别模型及Agent的潜在安全风险提供了重要技术支撑。然而，随着Agent逐步参与企业核心业务流程，传统安全评估的关注范围也需要进一步拓展。企业智能体安全不仅要关注“Agent会不会执行危险操作”，更要验证“当Agent产生非预期行为时，企业平台能否通过有效的安全治理机制约束行为、阻断风险”。

二、企业Agent不是个人Agent的简单放大

企业Agent安全并非重新构建一套独立的安全理论，而是在个人Agent安全基础上，结合企业组织架构、业务流程和管理要求，对安全能力进行场景化延伸与细化。与主要服务于个人任务的Agent不同，企业Agent需要在组织身份、权限策略、业务规则和管理制度的约束下开展工作。两者的差异不仅体现在应用规模上，更体现在身份体系、权限模型、责任边界和运行机制等方面。

此外，企业Agent还面临三个更深层次的安全挑战：

一是智能体行为的目标偏移风险。大模型及智能体在执行复杂任务时，可能受到提示词注入、上下文冲突或任务分解偏差等因素影响，产生偏离预期的行为。如果平台缺少有效的权限校验和策略执行机制，这类行为就可能进一步转化为实际业务风险。

二是多智能体协同带来的风险级联。当多个不同角色的智能体通过任务委派、工具调用和状态共享形成协作网络时，单个节点的安全缺陷可能沿调用链传递。例如，子智能体获得超出任务所需的权限，或敏感信息通过共享记忆进入其他智能体的上下文，都可能扩大风险影响范围。

三是分散式安全管控难以形成完整闭环。如果企业仅针对单个应用配置安全规则，却缺少统一的身份管理、权限控制和审计机制，就可能出现策略不一致、权限边界不清、操作记录不完整等问题，导致风险难以及时阻断，事故发生后也难以准确追溯。

由此可见，个人智能体与企业智能体的安全要求存在明显差异：前者侧重智能体自身的行为安全，后者还需要验证智能体在组织环境中的行为是否受到有效约束，以及相关风险是否能够被发现、阻断和追溯。

三、企业智能体组织级安全风险评估业务

针对企业智能体应用中的新型安全风险，中国软件评测中心推出企业智能体组织级安全风险评估业务，重点评估智能体平台在真实或模拟的组织业务环境中，是否具备可验证、可追溯、可治理的安全控制能力。该项评估以请求、调用、审批、拒绝、执行、记忆、委派及审计等可观测证据为基础，将组织级安全风险转化为可复现、可验证的测试点，并结合正常业务场景与异常操作场景开展正反向验证。

本次企业智能体组织级安全风险评估覆盖以下五大安全面：

四、与现有Agent安全评估形成互补

企业智能体组织级安全风险评估并非替代现有的模型安全或Agent安全评估，而是在其基础上，进一步面向企业组织环境和业务治理需求开展验证。两类评估各有侧重：前者帮助企业识别模型和智能体自身的安全风险，后者进一步验证企业平台能否通过有效的权限、流程和审计机制控制风险。

从识别智能体的安全风险，到验证企业的风险治理能力，组织级安全评估为智能体进入核心业务场景提供了更贴近实际应用需求的评估视角。通过五大安全面、26项测试点的系统性验证，评估能够从组织治理视角识别企业智能体平台的潜在安全风险，为企业完善智能体安全控制体系、优化风险治理机制及推进智能体规模化应用提供技术支撑。中国软件评测中心将持续关注智能体安全技术与组织治理需求的发展，探索更加完善的评估方法与验证机制，助力企业构建安全、可控、可追溯的智能体应用环境。

五、服务价值

中国软件评测中心作为专业的第三方检测机构，可提供企业智能体组织级安全风险评估服务，帮助企业：

选型依据：判断Agent平台安全治理是否真实生效；

合规支撑：满足组织级安全、审计、责任追溯要求；

风险前置：上线前发现审批、权限、凭证、隔离等隐患；

权威背书：第三方报告可用于汇报、验收和宣传。

欢迎正在部署或计划引入智能体的企业联系中国软件评测中心，开展企业智能体组织级安全风险评估。

联系人

王老师 15801567456（微信同号）

唐老师 13693080322（微信同号）

文字 | 软件与信息系统研究测评事业部

编辑 | 品牌推广室

编审 | 战略发展合作部