文章总结: 三部门联合印发《智能体规范应用与创新发展实施意见》,提出安全可控、规范有序、创新驱动、应用牵引四项基本原则,明确决策权限界定、行为管控、内生安全能力建设等安全要求,并在智能制造、能源、交通等19个重点行业推动典型场景应用,建议行业将安全纳入顶层设计并关注分类分级监管要求。 综合评分: 87 文章分类: 政策法规,人工智能安全,应用安全,数据安全,供应链安全
三部门:推动智能体在智能制造、交通、医疗等典型场景应用
威努特安全网络
2026年5月22日 08:00 北京
在小说阅读器读本章
去阅读
近日,国家网信办、国家发改委、工信部联合印发《智能体规范应用与创新发展实施意见》,这是继国务院《关于深入实施”人工智能+“行动的意见》后,针对智能体的首个国家级顶层治理文件,标志着我国智能体治理进入制度化、体系化的新阶段,为各行业智能体应用的规范落地提供了明确指引。
基本原则
文件提出四项基本原则:坚持安全可控:将智能体安全作为底线要求,贯穿技术研发、应用部署与推广全过程,切实防范系统性风险;坚持规范有序:构建与现有政策法规衔接顺畅、行业自律自治、底线红线清晰的治理体系,有序推进智能体落地应用;坚持创新驱动:完善政产学研用协同机制,构建开放共享的智能体生态;坚持应用牵引:重点围绕实际需求,发挥典型应用场景示范效应,循序渐进促进智能体技术验证与产品迭代。四项原则体现了安全与发展并重的政策导向。
安全是底线
文件中“守牢安全底线”作为独立版块,主要包含明确决策权限、提升内生安全能力、加强供应链安全、构建分类分级治理框架、探索信用评价机制等版块,是整份文件的安全核心。其中安全作为被反复强调的“底线要求”,反映了国家对智能体风险的深刻认知与要求。
文件确立了智能体的安全要求:
决策权限界定:文件第6条明确提出,要厘清“仅限用户本人决策”、“需由用户授权决策”和”智能体自主决策”各类决策方式的合理边界及所需权限。确保用户对智能体自主决策享有知情权和最终决策权,智能体执行操作不得超出用户授权范围。
条款直击智能体应用的核心安全风险。当智能体具备自主决策能力时,如何防止越权操作、误操作或被恶意利用,是首要安全问题。
行为管控机制:文件第7条提出发展“规则内嵌、行为围栏”等技术,确保智能体在公共场所、隐私场所、专门场所等的行为合法合规。同时探索利用区块链等技术,建立重要应用场景中智能体行为的可验证、可追溯机制。
这意味着智能体行为必须可监控、可审计、可追溯。对关键行业而言,这直接关系到生产安全和数据安全。
提升内生安全能力。研究智能体数据安全、个人信息保护、密码防护、攻击检测、权限管理、行为控制等安全技术,提升智能体系统安全保障能力,防范数据投毒、隐私泄露、算法篡改、系统漏洞、运行失控等安全风险。研究智能体安全检测技术,探索建立智能体安全评估体系。
文件中明确提到的”数据投毒、隐私泄露、算法篡改、系统漏洞、运行失控”五大风险,意味着传统网络安全防护体系须向智能体运行环境延伸。
除此之外,政策提出构建”分类分级治理框架”的创新思路:
敏感领域及重点行业:由网信部门联合行业主管部门确定开放场景,实行备案、检测、问题产品召回等管理措施;
低风险领域:通过合规自测、信息报告、分发平台管理、行业自律等方式实现高效治理。
意味着医疗、电力、交通等数据敏感领域及关基领域智能体应用将面临更为严格的安全监管。
典型场景应用****
《实施意见》明确提出积极稳妥推动智能体典型场景应用,牵引技术产品优化提升,探索形成可复制、可推广的智能体落地应用模式。分为科学研究、产业发展、提振消费、民生福祉、社会治理五大领域,包括智能制造、能源、交通、教育、医疗等19个重点行业。
智能制造。研发生产管理智能体,动态优化生产排程、资源分配和工序衔接,推动智能体在工业互联网领域应用,提升企业精细化管理水平。提升智能体工艺参数优化、加工精度检测、产品缺陷识别等能力,促进智能体与数控机床、工业机器人、自动化产线等融合,促进提质增效降本。
能源资源。研发大气、水体、土壤、噪声等环境要素感知智能体,提升自然灾害、环境污染等风险预警能力。依托智能体强化对国土空间资源全周期管理能力。依托智能体实现能源、金属等矿产资源高效勘探。发展电力调度、用电监测、电网维护等智能体,提升电力资源使用效率。
交通运输。研发交通安全监管、应急指挥调度等智能体,提升违章违规行为识别、交通基础设施风险预警、重点车辆(船舶)监管、事故快速响应等能力。优化交通监测调度智能体性能,发展交通载运工具管控智能体,提升路网、水网、空域的通行效率。
教育教学。探索课件生成、作业批改、学情分析等智能体,提高教师工作效率。依托智能体开展个性化学习方案制定,完善智能导学、答疑辅导、虚拟助教等功能。支持在线教育平台研发智能体,提供终身学习服务。
医疗健康。提升医学影像分析、疾病诊断推理、定制化诊疗方案生成等医疗辅助智能体性能,探索药品管理、手术排程、病历管理等智能体,提升医疗服务效率。稳步发展预问诊、报告解析等智能体,提升患者体验。
……
政策应对建议
针对文件内容,行业从业者应对建议:
将安全可控纳入智能化建设顶层设计:安全是底线要求。在智能化项目规划初期,应将安全可控运行、精细化权限管控等纳入建设方案,确保安全能力与智能化能力同步规划、同步建设。
关注重点行业监管要求:文件提出分类分级治理框架,要密切关注本行业主管部门发布的智能体安全相关规范和标准,提前进行合规适配。特别是涉及关键信息基础设施的单位,应主动对接行业监管要求。
随着智能体技术的加速应用,安全可控已从技术选择成为政策要求。行业从业者应重视智能体安全能力建设,提前布局,合规规划,确保智能体应用的安全、可靠、可信,实现智能创新与安全保障的协同推进。
免责声明:
本文所载程序、技术方法仅面向合法合规的安全研究与教学场景,旨在提升网络安全防护能力,具有明确的技术研究属性。
任何单位或个人未经授权,将本文内容用于攻击、破坏等非法用途的,由此引发的全部法律责任、民事赔偿及连带责任,均由行为人独立承担,本站不承担任何连带责任。
本站内容均为技术交流与知识分享目的发布,若存在版权侵权或其他异议,请通过邮件联系处理,具体联系方式可点击页面上方的联系我。
本文转载自:威努特安全网络 《三部门:推动智能体在智能制造、交通、医疗等典型场景应用》
版权声明
本站仅做备份收录,仅供研究与教学参考之用。
读者将信息用于其他用途的,全部法律及连带责任由读者自行承担,本站不承担任何责任。









评论