文章总结： 该文研究政务AI大模型安全保障体系，指出当前存在制度不健全、技术防护不足、运营保障薄弱等问题，提出从管理机制、技术防护、运营保障三方面构建安全体系，包括建立四方联动组织架构、完善合规审查、强化数据全生命周期防护、构建监测应急机制等具体建议。 综合评分： 85 文章分类： 政策法规,安全建设,技术标准,数据安全,云安全

网览九州 | 政务人工智能大模型安全保障体系研究

原创

韩月华 朱贤斌 韩月华 朱贤斌

中国信息安全

2026年5月6日 17:49 北京

在小说阅读器读本章

去阅读

韩月华

文 | 扬州市大数据管理中心 韩月华；扬州市大数据管理中心正高级工程师 朱贤斌

人工智能（AI）大模型技术与政务领域的深度融合，已成为驱动数字政府建设与治理能力现代化的关键力量。然而，大模型固有的技术特性与政务应用的高敏感性、复杂性交织，可能带来数据泄露、模型滥用、内容失真等新型安全风险。因此，政务人工智能大模型（以下简称“政务大模型”）必须坚持安全为先，确保安全、可靠、可控地应用于政府决策与公共服务。

一、研究背景

当前，以生成式人工智能为代表的大模型技术迅猛发展，在全球范围内引发新一轮生产力变革与治理模式创新。政务大模型作为人工智能技术与政务服务深度融合的产物，依托其强大的语义理解、数据分析与智能生成能力，正积极推动政府运行与公共服务向智能化、高效化转型升级。

在内部办公支撑方面，大模型技术已应用于公文拟稿、会议纪要生成、政策资料智能检索与数据报表分析等场景，有效减轻工作人员事务性负担，提升决策科学化水平。例如，部分省市部署的政务智能办公平台，通过政务大模型实现文稿辅助撰写、知识库问答等功能的规模化应用，大幅缩短了公文处理周期。在公众政务服务方面，大模型被广泛应用于“一网通办”、12345热线、政策咨询与业务导办等民生服务领域，推动政务服务从“能办”向“好办、智办”升级。例如，上海市“一网通办”平台引入人工智能技术后，办事效率提高了40%；云南省昆明市五华区推出“AI+”政务服务应用“智慧问答客服”，实现了对市民咨询的即时响应。

随着大模型在政务领域的深入应用，其面临的安全挑战与保障需求也日趋复杂和紧迫。一方面，政务数据涵盖国家安全、公共安全、商业秘密和个人隐私等信息，大模型在训练、推理与存储过程中，必须严防数据泄露与恶意攻击，确保敏感信息不被泄露、篡改和滥用；另一方面，大模型输出的准确性、公平性与合规性直接关系到公共决策的公正与社会稳定，需有效抵御投毒攻击、提示注入等新型威胁，防止产生偏见内容或误导性结果。构建覆盖数据安全、系统安全和内容安全的一体化防护体系，已成为推动政务大模型落地、守护数字政府安全的必然要求。

二、某市政务大模型应用安全保障现状

政务大模型的应用场景持续拓展，其安全稳定运行已成为提升政务服务效能、维护公共利益的根本前提。某市在积极推进政务大模型融合应用的同时，坚持安全与发展同步谋划、一体推进，为该市政务智能化转型与可持续发展提供坚实保障。

（一）应用需求日益广泛，基础设施稳步部署

大模型技术与政务业务的融合进程持续加快，各地、各部门围绕政务场景的应用探索不断向更广领域和更深层次拓展。2025年上半年，该市数据局组织开展了人工智能大模型应用场景需求调研。据统计，该市共梳理出大模型应用需求100余项，覆盖20多个部门，涉及通用办公、基层治理、医疗服务、经济发展等应用场景。目前，该市已完成政务大模型基础设施的部署，采用国产智算服务器与算力卡，实现了DeepSeek、Qwen等主流大模型的私有化部署。在确保“数据不出域”的前提下，为该市“AI+”政务服务、城市治理、交通运输、医疗健康等领域先行先试提供算力及模型服务。

（二）防护体系初步建立，安全根基持续夯实

依托大数据管理中心构建的统一安全防护体系，该市已将政务算力、模型及数据资源纳入常态化安全巡检与运维管理范围，为政务大模型应用提供基础安全保障（如图所示）。

图 政务大模型应用分层架构

一是强化基础设施安全保障。严格落实机房环境7×24小时监控，实行双路供电保障和恒温恒湿控制；建立严格的运维人员访问授权制度，实施操作审批和全程审计跟踪，防止未授权操作。

二是完善网络安全防护体系。在边界防护层面，部署高性能防火墙与Web应用防护系统（WAF），并将政务大模型系统部署于独立安全区域。在网络监测层面，通过网络安全态势感知平台实时采集网络流量，精准识别高级持续性威胁（APT）攻击与入侵行为，实现安全事件的快速分析、研判和回溯。在安全运维管理层面，对远程登录实行虚拟专用网络（VPN）加密传输，严格控制网络访问权限，筑牢该市电子政务网络安全底座。

三是健全安全检测机制。定期开展系统漏洞扫描和渗透测试，每季度至少组织一次专项安全检测，重点排查高危漏洞；严格执行安全基线检查制度，涵盖系统配置参数、补丁状态、账户权限等关键指标，确保系统配置符合安全要求。

四是构建智能安全监测防护平台。依托大模型应用安全防护系统，实现全流量的采集和威胁智能分析，对模型数据隐私、业务违规内容及大模型安全漏洞进行实时监测、有效阻断，重点关注人工智能带来的新型安全风险。同时，结合应用程序编程接口（API）安全监测和分析平台，开展API访问行为分析与异常检测，防范未授权访问和数据泄露风险，实现安全威胁早发现、早预警。

三、政务大模型安全保障存在的不足

目前，各地在政务大模型基础设施建设与安全防护方面已奠定初步基础，为“AI+政务”场景的试点应用提供了必要支撑。然而，随着政务大模型应用的不断深化与拓展，现有安全保障体系仍呈现薄弱态势。

（一）制度体系尚不健全，责任边界有待厘清

目前，尚未形成与政务大模型应用特点相适应的安全管理制度体系，制度的规范引导和约束保障作用未能充分发挥。

一是跨部门协同机制尚未建立。政务大模型应用涉及网信、政务服务、数据管理及各业务主管部门，在联合开发、数据共享、模型运维等环节存在职责不清、协同不畅等问题，制约了安全治理合力的形成，影响整体治理效能提升。

二是专项管理制度存在空白。现有安全管理规定多沿用传统政务信息系统框架，未能充分考虑政务大模型在数据动态交互、模型持续迭代等方面的特殊风险，对数据训练、模型部署、服务监管等关键环节缺乏针对性规范。

三是技术规范体系有待完善。目前，尚未建立覆盖政务大模型开发、部署、运行与升级全流程的专项测评标准与技术规范，难以对模型安全设计、运行风险和迭代后安全状态进行系统评估和持续监控，无法有效保障政务大模型全生命周期安全可控。

（二）技术防护尚不完善，新型风险应对能力不足

当前，安全防护手段仍以传统网络安全技术为主，难以有效应对政务大模型特有的新型安全风险。

一是数据安全闭环管控机制不健全。政务大模型训练与应用涉及大量敏感政务数据，目前缺乏覆盖数据采集、标注、训练、推理全流程的隐私保护技术，差分隐私、联邦学习、同态加密等前沿数据安全技术应用不足，尚存在敏感政务信息泄露与滥用风险。

二是模型安全防护能力薄弱。针对投毒攻击、对抗样本攻击、成员推断攻击等新型威胁，缺乏有效的检测技术、防御算法与防护工具，模型在复杂政务场景下的鲁棒性与可靠性有待提升，难以保障政务决策与服务输出的准确性。

三是应用层面内容治理精度不足。政务大模型生成内容直接关系到政府公信力与公共服务质量，当前，输入输出过滤机制存在误拦、漏检等问题，且缺乏对生成内容的可解释性技术与全链路溯源能力，一旦输出错误或不当内容，可能引发公众误解，影响政府形象与服务质量。

（三）运营保障尚不成熟，监测应急体系有待加强

在监测范围、响应效率和风险处置精度等方面，现有安全运营体系仍面临挑战，整体保障能力有待提升。

一是政务人工智能安全运管平台尚未建成。现行监测体系在覆盖广度与识别深度方面均存在明显不足：一方面，无法对模型训练、运行及交互过程进行实时、统一监控；另一方面，对提示注入攻击、模型越权调用等新型威胁缺乏精准识别与实时预警能力，难以及时发现和响应潜在风险。

二是应急预案针对性与实战性不强。现有预案多为通用性方案，缺乏针对数据泄露、模型滥用、内容安全等特定场景的专项处置流程，应急演练频次低、实战化水平不足，影响应急处置队伍对政务大模型安全事件的应对能力。

三是常态化评估机制缺失。目前，缺乏对模型性能稳定性与安全态势的定期评估机制，无法动态感知运行风险、客观评估防护措施实际效果，难以实现防护策略的自适应调整，影响整体安全治理的敏捷性与有效性，不利于政务大模型的持续稳定运行。

四、推进政务大模型安全保障体系建设的建议

为构建与政务数字化发展水平相适应的安全保障体系，需统筹管理机制、技术防护与运营保障，形成协同联动、持续优化的安全治理格局。

（一）健全管理机制，完善安全责任体系

坚持“权责清晰、规范有序、协同高效”原则，构建覆盖政务大模型全生命周期的安全管理体系。

一是构建四方联动组织架构。健全“市级统筹、区（县）落实、部门协同、专业支撑”的四方联动安全组织体系，明确各方职责边界。市数据局负责统筹政务大模型安全发展规划、标准制定与跨部门协调，牵头重大安全事件处置与督导。各区（县）及市级相关部门承担本地区、本领域政务大模型应用的安全需求管理、数据分类分级及日常风险排查。市数据局会同市委网信办、市公安局、市司法局等部门建立联合监管机制，市委网信办负责网络安全与内容监管，市公安局负责打击网络攻击、数据窃取等违法犯罪行为，市司法局负责合规审查与法律监督，形成齐抓共管、协同联动的监管格局。模型开发商与安全服务商提供开发安全、漏洞检测、应急响应等专业支持。

二是完善三级合规审查体系。严格遵循《中华人民共和国网络安全法》《中华人民共和国数据安全法》《生成式人工智能服务管理暂行办法》等法律法规，将合规要求融入政务大模型规划、建设、应用与运维各环节，构建“法律底线+政策红线+标准基线”三级合规审查体系。首先，严守法律底线，重点防范数据泄露、算法歧视与内容违规等风险，对具有舆论属性或社会动员能力的生成式人工智能服务，按规定开展安全评估并履行算法备案手续。其次，落实政策红线，依据国家和省级政务大模型发展的政策要求，制定市级《政务数据安全分类分级管理办法》《大模型输出内容审核实施细则》等配套制度，细化执行要求。最后，夯实标准基线，参照《政务大模型应用安全规范》等行业标准，针对模型开发、数据治理、内容审核等关键环节，制定统一的技术实施方案，提升合规管理的规范性与可操作性。

三是规范全生命周期管理。首先，构建“市级调度、区（县）响应、信息互通、资源共享”的联动机制，定期召开安全工作调度会，通报安全风险，协调解决跨层级、跨部门安全问题。其次，结合具体应用场景实施安全管控，依据应用场景重要程度和风险等级，制定差异化的安全管理要求与防护标准，实现精准防控。最后，制定覆盖“模型开发—数据采集—训练部署—应用运维—销毁退役”全生命周期的安全管理流程，明确各环节责任主体与操作规范。例如，在模型设计阶段开展安全需求评审，数据采集阶段落实合规审查，退役阶段执行数据彻底清除与设备安全处置。

（二）强化技术防护，构建纵深防御体系

坚持“主动防御、精准防护、动态监测”原则，构建覆盖基础设施、数据要素、模型本体与应用系统的全链条技术防护体系。

一是夯实基础环境安全。依托市级电子政务云架构，构建集“边界防护、态势感知、主动防御、大模型安全监测”于一体的纵深防御体系，严格划分互联网区、数据交换区、核心业务区等安全域，实施最小权限访问控制。强化统一身份认证与权限管理，对关键操作实行多因素认证与操作留痕。建立基础设施实时监控与智能告警机制，对服务器、网络设备等硬件资源及操作系统、数据库等核心软件实施7×24小时监控，设置性能与安全阈值，确保底层环境安全可靠。

二是加强数据全生命周期防护。围绕政务数据从采集到销毁的全生命周期，构建覆盖“事前预防、事中管控、事后追溯”的闭环安全防护体系。在数据采集环节，严格审核数据来源合法性，明确采集目的与范围，对敏感数据实施脱敏处理；在数据传输环节，全程采用国密算法或符合国家要求的加密协议，防止数据被窃取或篡改；在数据存储环节，依据数据分类分级结果实施加密存储，部署分布式存储与容灾备份机制，定期开展数据恢复演练；在数据使用环节，严格执行最小权限原则，部署操作审计与行为分析系统，确保数据操作可追溯；在数据销毁环节，对过期或废弃数据实施物理销毁或符合国家标准的逻辑删除，严防信息残留与泄露。

三是健全模型安全管控机制。聚焦政务大模型“训练、部署、推理”关键环节，实施全流程安全管控。训练阶段，建立数据质量与安全检测机制，对输入数据进行清洗、去标识化与恶意样本筛查，采用联邦学习、差分隐私计算等技术实现“数据可用不可见”；部署阶段，实施模型加密与数字水印技术，嵌入唯一标识以实现输出内容溯源；推理阶段，部署输入输出内容过滤系统，建立敏感词库与违规内容检测规则，对高敏感场景实行运行环境隔离，防范外部攻击与恶意滥用。

四是规范应用开发安全流程。将安全要求融入政务大模型应用系统“需求—设计—开发—测试—上线—运维”全周期。需求阶段同步规划安全需求，明确安全目标与合规基准；设计阶段开展安全架构设计与风险识别，制定针对性防护策略；开发阶段加强第三方组件安全管理，落实安全编码规范，防范供应链风险；测试阶段综合运用静态代码检测、动态安全扫描与渗透测试，全面排查安全漏洞；上线阶段执行严格安全验收，将安全测试达标作为系统准予上线的前置条件；运维阶段持续开展安全监测、漏洞扫描与补丁管理，及时处置新发现风险。

（三）优化运营保障，提升动态治理能力

坚持“实时监测、快速响应、闭环优化”原则，构建覆盖运行监测、风险控制、应急处置与持续改进的动态治理体系。

一是构建一体化运行监测体系。依托市级政务大模型统一管理平台，构建集运行监控、风险感知、事件预警于一体的监测体系。设立监管沙盒机制，对新建大模型应用开展不少于三个月的安全试运行，在隔离环境中验证其安全性与稳定性。建立分级告警与闭环处置流程，明确不同级别安全事件的响应时限与处置要求，确保风险及时发现、有效处置、动态清零。

二是建立多层级内容风险防控机制。围绕生成内容的合规性、准确性与导向性，构建“技术过滤+人工审核+伦理评估”三位一体的防控体系。技术层面，依托敏感词库与违规内容检测规则，实时拦截违法违规与不良信息。人工层面，根据应用场景风险等级实施差异化审核策略，对涉及公共决策、行政执法等高敏感场景实行全量人工复核，对民生服务、政务咨询等中风险场景实施不低于30%的抽样审核，对通用办公场景实行重点抽查。伦理层面，组建由相关领域专家构成的伦理委员会，对涉及意识形态、民族宗教、社会公平等敏感内容的应用开展专项评估，防范价值导向偏差。

三是完善全流程应急响应机制。建立健全“预案完备、演练常态、处置高效”的应急响应体系。制定涵盖数据泄露、系统入侵、内容安全等场景的专项应急预案，明确处置流程、职责分工与通报机制。组建市、区（县）两级应急响应队伍，吸纳技术专家与安全服务商参与，定期开展实战化演练与桌面推演，重点锤炼数据恢复、攻击阻断、服务保障等能力。严格执行“先封控、后溯源、再优化”的处置原则，最大限度控制影响范围，快速恢复业务运行，并做好事后总结与责任认定。

四是构建持续优化的反馈改进机制。建立“问题收集—分析研判—优化提升”的闭环管理机制，推动安全保障体系迭代完善。通过线上留言、问卷调查等渠道广泛收集用户意见与安全线索，定期开展安全满意度调查。对收集的信息进行系统分析，识别共性问题和系统脆弱点，形成安全态势评估报告。根据评估结果动态调整防护策略、优化管理制度、完善服务流程，实现安全保障能力的持续提升。

（本文刊登于《中国信息安全》杂志2026年第3期）

免责声明：

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。

任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。

本文转载自：中国信息安全 韩月华 朱贤斌 韩月华 朱贤斌《网览九州 | 政务人工智能大模型安全保障体系研究》