文章总结： 该文档围绕《智能体规范应用与创新发展实施意见》的发布，强调为智能体应用建立制度护栏的重要性。文章指出智能体在提升城市治理效率的同时存在权限越界、算法偏差、隐私泄露等风险，提出必须通过算法备案、影响评估、人工复核等机制划定行为边界，确保以人为本、多元共治的安全可控发展。 综合评分： 78 文章分类： 政策法规,安全建设,解决方案,技术标准,AI安全

观点 | 给智能体应用装上“制度护栏”

吴晓林 吴晓林

中国信息安全

2026年5月18日 17:32 北京

在小说阅读器读本章

去阅读

文 | 南开大学国家治理研究院院长、中国式现代化发展研究院高级研究员 吴晓林

近日，国家网信办、国家发展改革委、工业和信息化部联合印发《智能体规范应用与创新发展实施意见》（以下简称《实施意见》），明确支持探索智能体在城市规划、建设与治理环节的规范应用，同时将智能体安全、可靠、可信作为产业发展的底线要求。

当前，以手机助手、终端智能管家、云端智能体等为代表的智能体产品加速涌现，呈现规模化应用态势，极大便利了人们的工作生活。智能体的广泛使用，使得各类风险能被快速感知、及时处置，城市也变得更加“聪明”、更有韧性。例如，上海警方首创的“交通治堵大模型”已在全市360个路口部署应用，平均车速提升12.9%；北京街道10万余井盖、地下6800余公里管道全部接入智慧巡检系统，智能井盖一旦监测到异常沉降，30秒内自动报警；天津中新生态城搭建起智能感知网络，可精准识别道路污染、建筑垃圾倾倒等行为，并实时上报预警信息，如同24小时在岗的“虚拟哨兵”。这样的智能体应用，在全国各类城市已经越来越多了。

然而，技术跑得太快，也会让人心有疑虑。智能体的权限会不会越界？决策是否有效？如果决策出了问题谁来负责？隐私数据会不会“裸奔”？这些问题，老百姓关心，城市管理者更得放在心上。技术更新迭代速度快，制度建设跟不上，就会产生大量隐患。城市治理不是智能体的实验室，它关系着千家万户的切身利益，一旦出了问题，所带来的破坏和损失往往难以估量。在这方面，国外已有前车之鉴。

这给我们提了个醒，智能体本身不是问题，真正的问题在于缺少“制度护栏”。当智能体帮我们提供服务时，它调用的数据是否必要、依据了什么规则，决策错了得纠偏问责；城市大脑调配信号灯时，算法偏差了得有人及时“踩刹车”；无人机飞越上空时，不能侵犯他人隐私和侵扰他人生活。也就是说，智能技术不能是“技术自运转”，它的运行必须有规矩、有边界。《实施意见》的出台，就是要及时填补技术应用与制度建设的“落差”。它不是给智能体创新“踩刹车”，而是给智能体“装上方向盘、系上安全带、画好轨道线”。

智能体的应用，要遵循以人为本的理念。说到底，智能体是工具，它应该服务于人。《实施意见》明确要求“确保用户对智能体自主决策享有知情权和最终决策权”，正是将人的主体性摆在了核心位置。近日，工业和信息化部办公厅印发了《关于实施人工智能科技伦理审查与服务先导计划的通知》，将在北京、上海、天津、广东、山东等10个省市开展AI科技伦理审查。这些探索正是回归到人的权利本位。城市管理者要让智能技术从“无限运算”转向“最小必要运算”，从“替人做主”转向“助人决断”，让每一个被智能体服务的市民，享受得到服务、看得见规则、找得着说法。

智能体的效果，取决于“制度护栏”的保障。政府不能只做智能技术的“使用者”，更要做智能体生态的“塑造者”。各地须统揽各类智能体，根据应用场景的风险高低，审慎划定智能体“可为”与“不可为”边界，同步建立算法备案与影响评估制度，让每一套算法在上线前先“过审”；同时完善人工复核与申诉救济机制，确保智能决策有据可查、有人负责、有地方说理。“制度护栏”不是为了束缚智能体，而是为了让它在服务市民的轨道上跑得更稳。

智能体的生态，要靠多元共治的协同。智能体不是政府和企业的“专属工具”，它连接着企业、社区和普通市民。《实施意见》强调“坚持以人为本、智能向善、多元共治、安全稳妥”，鼓励行业自律、信用评价建设，引导公众和企业、高校、科研机构积极参与，这就是共建共治共享。政府应从单一的“智能体使用者”转向“多元共治的塑造者”。在这方面，国内已有鲜活实践。

国务院国资委牵头打造的“焕新社区”，由25家企业、高校和标准化机构共同发起，面向全社会开放了40个央企高价值场景，使AI创新成果惠及更多中小企业和开发者。这启示我们，开放合作的智能体生态更有生命力。智能体的接口不仅应该开放给基层单位，而且应该向社会公众开放，用以成为“众包平台”，使政府内外的行动者能够在此基础上创新应用、共同治理。要让居民对影响自己生活的算法有发言权，让第三方机构参与评估认证，让行业自律与政府监管形成合力。

（来源：光明日报）

免责声明：

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。

任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。

本文转载自：中国信息安全 吴晓林 吴晓林《观点 | 给智能体应用装上“制度护栏”》