文章总结： 国家安全部警示大模型应用面临数据泄露、深度伪造及算法偏见三大风险，建议遵循权限最小化、清理数字足迹及保持独立验证三条守则。文章强调安全是发展前提，并介绍了360全生命周期安全解决方案以构筑防护底座。 综合评分： 75 文章分类： AI安全,安全意识,软文广告

国家安全部提醒：大模型安全问题不可忽视

360数字安全

2025年12月26日 18:13 北京

当AI助手为教师快速生成教案，当智能音箱提醒独居老人按时服药，当“提示词工程师”成为新兴职业……AI大模型加速赋能千行百业，重塑我们的生产生活。然而，技术发展的背后，新型安全挑战也随之而来。

近日，国家安全部发布《一份给您的“智能生活安全说明书”》，深刻揭示了大模型应用背后潜藏的数据泄露、深度伪造与算法偏见等风险，并强调只有懂科技、安全使用科技，才能让AI大模型成为推动社会进步的正能量。

核心警示：正视AI高速

发展背后的三大“暗礁”

国家安全部通过真实案例，指出了当前大模型应用必须警惕的三大安全风险：

数据隐私与安全边界模糊

某单位工作人员违规使用开源AI工具处理内部文件，且电脑系统配置存在缺陷，导致敏感资料被境外IP非法访问和下载。暴露了因数据管理不善可能引发的安全风险。

技术滥用与虚假信息产生

某境外势力利用“深度伪造”技术生成虚假视频，企图对华传播，以此误导舆论、制造恐慌。揭示了AI技术被恶意利用对国家安全与社会稳定构成的直接威胁。

算法偏见与决策“黑箱”

研究人员测试发现，同一AI模型面对中英文历史提问时，会呈现系统性差异，甚至输出带有误导性的内容。这反映出隐藏于算法中的偏见可能影响价值判断，带来认知风险。

行动指南：遵循国家指导

落实三条安全“守则”

针对上述风险，国家安全部给出三项“安全守则”，为安全使用AI工具提供了指导：

\ | /

★

守则一：划定“活动范围”，权限最小化。联网AI不处理涉密数据，关闭非必要的“数据共享”“云空间”等访问权限。

\ | /

★

守则二：检查“数字足迹”，养成安全习惯，定期清理聊天记录、更新密码、核查登录设备情况，并对索要敏感信息的请求保持高度警惕。

\ | /

★

守则三：优化“人机协作”，保持主观能动性。提问时要求AI展示思考过程或来源，对重要结果进行交叉验证，特别是在面对复杂议题时，保持独立思考和辩证判断。

筑牢安全底座

360为大模型发展保驾护航

国家安全部强调，安全是发展的前提，发展是安全的保障。只有懂科技、安全使用科技，才能让AI大模型这一新兴科技成为推动社会进步的正能量。广大用户应当提高安全意识，审慎授权大模型软件权限。

作为国内唯一兼具数字安全和人工智能双重能力的企业，360充分发挥懂安全更懂AI的优势，打造大模型全生命周期安全解决方案：

\ | /

★

对外“以模治模”打造动态防御屏障，外挂式安全能力不侵入大模型原生架构，通过外部工具实现灵活、快速的动态防护；

\ | /

★

对内以“平台原生安全”筑牢组件自带安全底座，为大模型应用注入安全基因，将防护能力深度内嵌于其核心组件之中。

二者协同形成覆盖大模型全生命周期的安全防护能力，确保大模型“向善、安全、可信、可控”。助力广大用户在享受AI大模型红利的同时，共同筑牢智能时代安全防线。

如需进一步咨询

请联系

400-0309-360

往期推荐

| | | | | | — | — | — | — | | | | | | — | — | | 01 | ● 周鸿祎谈贯彻落实党的二十届四中全会精神 | | ► 点击阅读 | | | | | | | — | — | | 02 | ● 【2025重保KPI】360安服智能体蜂群全程护航 | | ► 点击阅读 | | | | | | | — | — | | 03 | ●360信创安全浏览器打造行业转型新范式 | | ► 点击阅读 | | | | | | | — | — | | 04 | ● 全国信息安全产教融合共同体年会召开，共探AI+安全人才培养路径 | | ► 点击阅读 | |

免责声明：

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。

任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。

本文转载自：360数字安全 《国家安全部提醒：大模型安全问题不可忽视》