文章总结： 中国信通院启动首批端侧智能体业务风险防护评估，针对恶意操作防护场景。该评估涵盖薅羊毛、隐私窃取及账号盗用等风险，旨在帮助厂商识别短板、优化安全架构，提升拟人化攻击检测能力，以应对黑灰产挑战并保障业务合规安全。 综合评分： 70 文章分类： AI安全,技术标准,政策法规,应用安全

中国信通院【首批】可信AI云 端侧智能体业务风险防护能力评估 第1部分 恶意操作防护正式启动！

CAICT可信安全

2025年12月29日 14:01 北京

前言

随着数字化业务深度发展，端侧智能体凭借拟人化操作模拟、分布式协同调度等特性，已成为黑灰产实施违规攻击的核心工具，给平台业务安全与用户权益带来严峻挑战。

2025年底，某互联网平台遭遇大规模黑灰产攻击事件，攻击者通过自动化工具批量操控上万被盗及僵尸账号注入违规内容，其账号批量操控、分布式协同攻击等特征与端侧智能体恶意操作的行为逻辑高度契合。当前黑灰产利用端侧智能体实施的薅羊毛、隐私窃取、恶意引流、账号养号盗号等违规场景已呈现全链路渗透态势，且因行为隐蔽性、随机性等特点更难被识别，而多数平台现有防护体系存在拟人化行为识别精度不足、协同攻击响应滞后等短板，难以应对动态风险挑战。因此亟需提升端侧智能体业务风险防护能力，以梳理风险特征、定位防护漏洞，为构建纵深防护体系、保障业务安全可持续发展提供核心依据。

在此背景下，中国信通院牵头编制《端侧智能体业务风险防护能力要求 第1部分 恶意操作防护》标准，并启动首批“可信AI云 端侧智能体业务风险防护能力评估 第1部分 恶意操作防护”。

【首批】“可信AI云 端侧智能体业务风险防护能力评估 第1部分 恶意操作防护”简介

评估针对端侧应用展开，主要包括薅羊毛与刷单炒信防护、隐私窃取与信息倒卖防护、恶意引流与广告推广防护、账号养号与盗号防护、恶意程序植入与运行防护、系统资源滥用防护等方面。

评估价值

全面洞察防护能力，夯实安全技术底座

通过对恶意操作检测精度、拦截有效性、权限管控完整性等关键维度的深度评估，帮助平台服务商清晰掌握产品在端侧智能体恶意操作防护场景中的真实表现，精准定位安全技术成熟度，为防护架构优化、算法模型迭代、权限机制完善提供清晰参照，筑牢端侧智能体安全运行的技术根基。

驱动防护体系升级，强化市场竞争力

以评促建，助力平台服务商精准识别恶意操作防护的短板弱项，针对性完善拟人化行为识别、敏感数据拦截、批量操作管控等核心功能，持续提升防护体系的系统化、精细化水平，强化产品在安全防护能力上的差异化竞争优势，适配行业对端侧智能体安全运行的多元需求。

护航产业合规发展，提升全链条用户体验

基于评估结果，平台服务商可聚焦端侧安全核心痛点（如隐私泄露、账号被盗、资源滥用），优化防护机制与管控策略，打造更安全、更可靠的端侧智能体运行环境，助力开发者高效构建合规安全的智能体应用。同时有效规避恶意操作引发的合规风险与用户权益损害，间接为终端用户带来更安心的使用体验，维护行业生态平衡，提升全产业链的服务满意度。

面向对象

端侧应用服务商、端侧应用合作运营方、端侧设备厂商均可参与本次评估。

标准体系简介：可信AI云 端侧智能体业务风险防护能力要求系列标准

1. 《可信AI云 端侧智能体业务风险防护能力要求 第1部分 恶意操作防护》
2. 《可信AI云 端侧智能体业务风险防护能力要求 第2部分 决策与执行偏差防护》（拟）

……

业务联系人

马铭洋 | 开源和软件安全部

云计算与大数据研究所 | 中国信息通信研究院

邮箱：[email protected]

电话：18600235069

景韩愈 | 开源和软件安全部

云计算与大数据研究所 | 中国信息通信研究院

邮箱：[email protected]

电话：19581549794

卫 斌 | 开源和软件安全部 副主任

云计算与大数据研究所 | 中国信息通信研究院

邮箱：[email protected]

电话：18618259777

长按二维码关注

链接云端，可信而安

免责声明：

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。

任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。

本文转载自：CAICT可信安全 《中国信通院【首批】可信AI云 端侧智能体业务风险防护能力评估 第1部分 恶意操作防护正式启动！》