可信AI云智能体交互安全标准讨论会暨智能体交互安全工作组成立筹备会在京成功召开!

admin 2026-01-28 17:44:00 网络安全文章 来源:ZONE.CI 全球网 0 阅读模式

文章总结: 中国信通院在京召开可信AI云智能体交互安全标准讨论会暨工作组筹备会,50余家单位专家参与。会议聚焦智能体身份与访问控制安全要求,旨在应对规模化落地风险,规范权限边界与评估机制,推动技术创新与治理协同发展,目前正持续公开征集参编单位与成员。 综合评分: 60 文章分类: AI安全,技术标准,政策法规


cover_image

可信AI云 智能体交互安全标准讨论会暨智能体交互安全工作组成立筹备会在京成功召开!

可信安全

2026年1月28日 08:00 北京

前言

随着大模型技术的成熟、算力基础设施的完善与海量数据的持续积累,智能体已从概念探索阶段加速迈向规模化商业落地阶段,成为驱动各行业降本增效、重塑工作流程的核心力量。然而智能体在快速渗透各行业的过程中,也带来感知失效、记忆污染、工具恶意执行、跨系统威胁传播等多重风险。其中,交互安全作为智能体与用户、系统及外部环境连接的核心环节,其风险隐患尤为突出,对风险防控与治理体系建设提出更高要求。

在此背景下,中国信息通信研究院正式启动可信AI云 智能体交互安全系列标准编写工作并筹备成立“智能体交互安全工作组”,于2026年1月27日成功召开首次《可信AI云 智能体交互安全 第1部分:身份与访问控制安全要求》标准讨论会暨云上大模型安全推进方阵-智能体交互安全工作组成立筹备会。会议以智能体带来的机遇和安全挑战为核心议题,旨在共同推动产业健康发展与完善标准体系建设。

来自中国移动通信集团有限公司、中国联合网络通信集团有限公司软件研究院、中信银行股份有限公司、广发银行股份有限公司、招商基金管理有限公司、天翼云科技有限公司、阿里云计算有限公司、华为技术有限公司、蚂蚁科技集团股份有限公司、支付宝(杭州)信息技术有限公司、科大讯飞股份有限公司、北京火山引擎科技有限公司、重庆蚂蚁消费金融有限公司、中移(苏州)软件技术有限公司、中移(杭州)信息技术有限公司、中国移动通信集团甘肃有限公司、贵州习酒股份有限公司、中国电力科学研究院有限公司、北京三快在线科技有限公司、北京快手科技有限公司、广州虎牙信息科技有限公司、北京百度网讯科技有限公司、麒麟软件有限公司、中兴通讯股份有限公司、北京兴云数科技术有限公司、用友网络科技股份有限公司、中电云计算技术有限公司、中电信数智科技有限公司、上海瑞数信息技术有限公司、中关村实验室、华为终端有限公司、荣耀终端股份有限公司、北京三星通信技术研究有限公司、天翼安全科技有限公司、奇安信科技集团股份有限公司、启明星辰信息技术集团股份有限公司、深信服科技股份有限公司、新华三技术有限公司、北京神州绿盟科技有限公司、北京天融信网络安全技术有限公司、北京知道创宇信息技术股份有限公司、北京信安世纪科技股份有限公司、微创软件股份有限公司、北京国信安信息科技有限公司、上海斗象信息科技有限公司、上海派拉软件股份有限公司、浙江算力科技有限公司、维沃移动通信有限公司、上海维信荟智金融科技有限公司、华青融天(北京)软件股份有限公司、山东鼎夏智能科技有限公司、北京栖安科技有限责任公司、杭州大拙信息技术有限公司50余家单位的百余位专家参与了会议。

《可信AI云 智能体交互安全 第1部分:身份与访问控制安全要求》标准围绕交互安全中应用对智能体的授权要求、用户对智能体的授权要求等核心维度,明确了身份授权的实施原则、操作流程与安全规范。

云上大模型安全推进方阵-智能体交互安全工作组旨在集合业界力量,共同开展智能体交互安全相关的标准体系研究、技术方案攻关与实践案例推广,规范智能体系统级权限获取的授权边界、用户知情权与追溯权保障机制,搭建安全合规的技术评估框架,推动形成技术创新与安全治理协同发展的产业生态。

可信AI云 智能体交互安全系列标准的研讨及智能体交互安全工作组的成立获得了业界极高关注度,得到了诸多企业专家的支持。本次会议上,各位专家对标准提出了很多建设性的意见,编写组在此表示衷心的感谢!

可信AI云 智能体交互安全系列标准参编单位持续公开征集中!

“云上大模型安全推进方阵-智能体交互安全工作组”成员单位持续公开招募中!

前期工作:

1、征集启动!《可信AI云 智能体交互安全 第1部分:双重授权安全要求、第2部分:智能体身份安全要求》标准参编单位公开征集!

2、重磅!共筑AI安全防线!“云上大模型安全推进方阵-智能体交互安全工作组”成员单位招募中!

3、重磅!“云上大模型安全推进方阵”成员单位第一批&第二批结果公布!

4、重磅!中国信通院“可信AI云”安全系列评估一览!

5、《云上智能体安全发展研究报告》重磅发布!

业务联系人

马铭洋 | 开源和软件安全部

云计算与大数据研究所 | 中国信息通信研究院

邮箱:[email protected]

电话:18600235069

卫 斌 | 开源和软件安全部 副主任

云计算与大数据研究所 | 中国信息通信研究院

邮箱:[email protected]

电话:18618259777

长按二维码关注

链接云端,可信而安


免责声明:

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景,旨在提升网络安全防护能力,具有明确的技术研究属性。

任何单位或个人未经授权,将本文内容用于攻击、破坏等非法用途的,由此引发的全部法律责任、民事赔偿及连带责任,均由行为人独立承担,本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布,若存在版权侵权或其他异议,请通过邮件联系处理,具体联系方式可点击页面上方的联系我

本文转载自:可信安全 《可信AI云 智能体交互安全标准讨论会暨智能体交互安全工作组成立筹备会在京成功召开!》

评论:0   参与:  0