文章总结： 新加坡在达沃斯论坛发布全球首个AI智能体治理框架《ModelAIGovernanceFrameworkforAgenticAI》，标志AI治理从内容监管转向行为监管。框架核心创新是将人机回圈升级为有意义的监督，要求人类理解智能体目标与后果并明确责任分配。七大机制包括有意义监督、风险前移、可逆性评估、身份标识、技术控制、渐进部署和用户赋能，并建立基线测试、持续监控、权限管理和审计追踪等技术控制体系。该框架以行为后果为风险评估核心，为全球自主AI系统监管提供重要参考。 综合评分： 82 文章分类： 政策法规,AI安全,安全建设,安全运营

新加坡发布全球首个AI智能体治理框架【AI安全第十一期】

原创

ZKAFKA ZKAFKA

网络安全研究站

2026年2月11日 08:20 浙江

达沃斯世界经济论坛上，新加坡数码发展兼新闻部长杨莉明正式发布《Model AI Governance Framework for Agentic AI》。这份文件不仅是全球首个由政府部门明确以“智能体人工智能”为治理对象的政策框架，更标志AI治理正式从“内容监管”迈入“行为监管”的新阶段。

与以往所有AI治理方案不同的是，新加坡框架直面一个核心问题：当AI系统能够自主规划并执行具有现实后果的操作时，如何确保人类责任不落空？

核心原则转型

智能体AI的独特之处在于其行动的可执行性。这不仅仅是技术能力的提升，更是责任归属的根本性转变。新加坡框架最根本的创新是治理原则的转变——从“人机回圈”升级为“有意义的监督”。

传统AI治理中常见的“人机回圈”(HITL) 原则，在智能体AI面前暴露出明显局限性。单纯保留一个人工审批环节，在复杂系统决策面前往往流于形式。审批者可能因技术复杂性而放弃实质审查，或因自动化偏见而盲目信任系统。

新加坡框架要求，监督必须是“有意义”的：人类监督者必须理解智能体的目标、决策依据和潜在后果。这种理解需要转化为明确的责任分配。

框架规定了责任锚定机制：谁为智能体设定目标，谁负责安全与合规审查，谁进行日常监控和维护，都必须在组织内部明确指定。这种制度设计旨在从根源上防止“出现问题却无人负责”的治理真空。

框架核心机制

新加坡智能体AI治理框架围绕七大核心机制构建，形成了一个完整、可操作的管理体系。

1. 有意义的监督机制：要求系统在关键决策点向人类提供易于理解的解释，而非原始技术日志。监督者需要了解“智能体打算做什么、为什么这么做、可能产生什么后果”，从而做出真正基于信息的判断。
2. 风险预防前移机制：在系统设计阶段就通过“最小权限原则”划定智能体的行动边界。例如，一个邮件处理智能体不应被授予删除数据库的权限，一个日程管理AI不应访问财务系统。
3. 可逆性评估机制：将AI操作分为不同风险等级。低风险、可逆操作（如发送通知）可允许较高自主性；高风险、不可逆操作（如金融交易）则必须设置严格的人工干预机制。
4. 智能体身份标识机制：要求每个智能体都有独特身份，确保任何操作都可追溯到具体代理。这一机制为责任追究提供技术基础，避免在多智能体系统中出现“行为可见，责任无踪”的困境。
5. 专门技术控制机制：包括针对智能体的红队测试、沙箱运行环境等。这些控制措施专门针对智能体特有的风险形态，如提示词注入攻击和越权工具调用。
6. 渐进式部署机制：建议组织从低风险内部场景开始，逐步扩展智能体应用范围，而非一次性全面部署。这种审慎的推广路径有助于组织积累管理经验，降低系统性风险。
7. 最终用户赋能机制：要求用户清楚知晓自己正在与AI交互，并理解其能力边界。同时，对员工的培训不应止于“如何使用AI”，还应包括“如何监督和质疑AI输出”。

安全控制体系

新加坡框架建立了多层次的技术控制体系，专门针对智能体AI所面临的安全挑战。

一是基线测试，要求组织在部署前验证智能体在标准场景下的表现。与传统AI测试不同，这种测试特别关注智能体是否会尝试越权操作或陷入无效循环。

二是持续监控机制，要求部署方设置明确的行为阈值和异常指标。一旦智能体偏离预期行为模式，系统应自动触发警报并启动干预程序。

三是权限管理系统，严格遵循“最小必要”原则，通过技术手段限制智能体对敏感数据和关键系统的访问。这一系统需要与组织的整体权限管理框架整合，避免形成新的安全漏洞。

四是审计追踪功能，记录智能体的所有决策过程和执行操作，确保事后能够完整重建事件链。审计数据不仅用于问题排查，也为系统优化提供依据。

全球治理影响

新加坡框架的发布标志着AI治理进入新阶段。以往全球AI治理主要关注数据隐私、算法偏见和内容真实性等问题，本质上是对AI“输出”的监管。

智能体AI的兴起改变了这一格局。风险核心从“模型是否产生有害内容”转向“系统是否被合理授权、是否可被有效监督、责任是否清晰”。新加坡框架为这一转变提供了系统性解决方案。它以“行为后果”而非“技术能力”为风险评估核心，为不同行业应用提供了灵活而具体的指导。

目前看来，这一思路可能影响全球AI治理的演进方向。随着智能体AI在金融、医疗、交通等关键领域的应用扩展，中国以及国际社会将越来越多地面临如何监管自主AI系统的挑战。框架的生命力将取决于它在技术创新与风险控制之间找到的平衡点，而这一探索的成果，很可能塑造智能体AI时代的全球治理标准。

本站致力于做最深度、专业、前沿的网络安全知识分享平台，欢迎点赞、关注、推荐，为您持续更新深度好文。

免责声明：

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。

任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。

本文转载自：网络安全研究站 ZKAFKA ZKAFKA《新加坡发布全球首个AI智能体治理框架【AI安全第十一期】》