美创参编|《智能体安全护栏能力要求》发布
美创资讯
2026年11月17日 08:00
北京
去阅读
近期,由中国信息通信研究院依托中国人工智能产业发展联盟(AIIA)安全治理委员会编制的《智能体安全护栏能力要求》技术规范正式发布,美创科技多位专家参与起草工作。
规范研制
智能体已在企业办公、客户服务、代码开发、数据分析、车载终端等场景应用。任务规划、工具调用与业务系统对接能力在提升效能的同时,也带来提示词泄露、越权冒用、高危不可逆操作、资源消耗劫持等风险,风险正向流程化、链式化演变。传统安全手段难以覆盖智能体运行中的全部风险,安全护栏的能力定义与评价依据仍需进一步明确。
为此,中国信通院发起《智能体安全护栏能力要求》技术规范编制工作。规范面向部署在智能体外围的安全护栏,提出输入防护、决策安全、执行安全、数据与记忆安全、输出安全、系统治理、评估优化等七方面要求,覆盖智能体运行全链路,为安全护栏产品的能力分级、功能完备性与实战有效性提供统一评价依据。
智能体安全护栏能力要求总体架构,图源 CAICT人工智能研究所
产品实践
美创科技于2026年世界互联网大会“互联网之光”博览会期间,正式发布美创AI数据安全一体化平台(AIDSC)。
平台围绕AI数据访问与使用过程,以统一的资产与身份治理厘清责任,以精细化访问和内容防护约束数据使用,以全链路审计与风险处置支撑持续治理,帮助企业将安全要求落实到已接入的智能问数、办公助手和业务智能体场景,为AI应用落地提供数据安全支撑。
美创AI数据安全一体化平台(AIDSC)平台架构
对正在将智能体接入业务系统的政企单位而言,可结合规范要求梳理护栏能力,完善运行时安全防护。
如您正在关注智能体接入业务后的数据权限、工具调用与高危操作管控,欢迎与美创科技交流:
400-811-3777
美创数据安全一体化平台:构建“看得见、管得住、防得住”的数据安全体系
高端访谈•美创薛恺|当AI有了“身份”:构建“人机智”三位一体的数据安全新范式
美创数据安全多智体获评「AI Agent标杆产品」:AI重塑数据安全运营闭环
版权声明
本站仅做备份收录,仅供研究与教学参考之用。
读者将信息用于其他用途的,全部法律及连带责任由读者自行承担,本站不承担任何责任。









评论