文章总结： 国家安全部披露因违规使用开源大模型导致数据泄露案例，攻击者利用未加固公网环境窃取敏感资料。专家指出开源AI会存储分析用户输入，面临开发者可见及黑客攻击风险。建议个人勿传敏感信息，企业应私有化部署以保障安全。 综合评分： 75 文章分类： 数据泄露,AI安全,政策法规,安全意识

开源大模型成数据泄露新渠道！国家安全部警示：勿向AI投喂敏感信息

原创

甲子元

安全代码

2026年1月14日 07:28 山西

近日，国家安全部披露了一起因违规使用开源AI工具导致数据泄露的典型案例。个别单位在建立联网大模型时，因直接使用开源框架且未进行安全加固，致使攻击者未经授权访问内部网络，造成敏感资料外泄。专家指出，AI工具普遍具备数据存储功能，用户向开源大模型提供的任何文件、图片都可能被留存、分析与窃取，构成严重安全隐患。

案例回溯：公网暴露未设防，境外IP直接访问

根据披露，某单位工作人员在处理内部文件时，违规使用开源AI工具，由于部署环境默认开启公网访问且未设置访问密码，导致大量敏感资料被境外IP非法访问并下载。这一事件暴露出部分单位在引入新技术时安全意识的缺失与防护措施的薄弱。

专家解析：开源大模型的数据安全风险不容忽视

中国网络空间安全协会人工智能安全治理专业委员会委员王媛媛指出，开源大模型是指将模型架构、参数及训练数据公开供用户免费使用的人工智能模型，类型多样、功能各异。然而，其最大安全隐患在于数据安全——用户上传至模型的任何数据，模型都会进行存储与分析，这一机制往往被使用者忽略。

数据如何泄露？开发者可见、黑客可攻

一旦敏感数据被“投喂”给AI工具，泄露风险便随之产生。首先，这些数据对AI工具的开发者通常是可见的；其次，由于多数AI工具代码开源，黑客可利用模型自身漏洞攻击后台，直接窃取存储数据。这意味着，无论是个人隐私还是企业机密，一旦上传至公共大模型，便可能面临失控风险。

安全建议：个人不传敏感信息，企业应私有化部署

针对如何防护，专家提出明确建议：

• 对普通网民而言，切勿将个人身份证号、银行卡信息、隐私照片等敏感内容上传至开源大模型；
• 对企业用户，若需利用大模型处理内部数据，必须采取私有化部署方式，将数据完全保存在本地服务器，避免上传至公共互联网。不过，私有化部署也需相应投入基础设施与专业技术团队进行维护。

在人工智能加速融入生产生活的今天，安全使用AI已成为一项基本素养。无论是个人还是组织，都应在享受技术便利的同时，筑牢数据安全的第一道防线。

本文根据国家安全部案例披露及央视新闻报道整理

山西甲子元科技有限公司

产品介绍：

软件：防泄密、行为管理、行为审计、云文档安全管理、数据智能备份等安全管理系统。

电话：0351-3366668

免责声明：

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。

任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。

本文转载自：安全代码 甲子元《开源大模型成数据泄露新渠道！国家安全部警示：勿向AI投喂敏感信息》