文章总结： 本文以网安周为背景，通过医疗行业AI诊断智能体案例，指出AI输出患者隐私数据存在泄露风险，强调数据脱敏需处理非结构化数据。文章还提及安全检查标准明确，企业应提前合规，被通报将面临下架整改及信任损失。建议企业重视AI数据安全，及时更换默认密码，明确数据输入输出路径。 综合评分： 62 文章分类： 安全意识,数据安全,AI安全,安全合规,安全运营

网安周的第一天

原创

iconic iconic

老登的安全观

2026年9月14日 09:30 广东

在小说阅读器读本章

去阅读

在公众号小说中沉浸阅读

佛系随性笔记，记录最好的自己！个人水平比较有限，每篇都尽量以白话+图文的方式去说明。

网安周 · 一线手记2026.09

网安周年年办，年年老一套？

甲方爸爸的 问题

一个比一个难接

AI泄密 · 检查罚款 · 通报后果

老登的安全观

网安周AI安全

📦 3 Parts + Conclusion

👉 滑动

PART 01

AI会不会说出去

病历与神医

PART 02

检查查什么

罚款与突击

PART 03

通报了会怎样

明账与暗账

PART ///

写在最后

三句实在话

网安周年年办

最忙的从来不是台上讲话的，是我们这些接电话的。

9月14日，济南那边开幕式还没开始，我微信先炸了。无数条消息排队进来，我就说一个医疗行业的客户，他们家的AI诊断智能体上线小半年了，20来个医生天天围着它转。

“老登，这AI每天吐那么多患者信息出来，能不能让它嘴严点？”

某医疗客户，四十多秒语音的核心就这一句

我回他：这活儿比你想的难，难多了！！！

这段时间被问得最多的三个问题，今天摆出来，一个比一个难接。

01

PART

“AI会不会把患者信息说出去？”

QUESTION 01 · 病历与神医

先把问题翻译大白话。老板不怕“模型存在安全风险”这种术语，他怕的是：我喂进去的病人资料，哪天从别人家AI嘴里说出来。

这个医疗客户的配置挺有代表性。智能体辅助医生看诊，医生端20来人同时在线，数据库安安稳稳放在本地机房，大模型用的却是公网服务（牛皮，没有本地部署）。打个比方：病历锁在自家保险柜里，但你每天把柜里的东西一张张拍照，发给外面一个素未谋面的“神医”问诊。这神医记忆力好得出奇，你说过的每一句话它都记得。记在哪、记多久、回头跟谁聊，你说了不算，说我不会缓存患者信息。（我信你个蛋蛋）

客户的需求听起来特别简单：AI输出结果的时候，帮患者隐私把把关。他们给的例子是这样的：

患者地址原文 　广东省深圳市南山区深南大道10000号腾讯大厦1楼1101

期望输出 南山区

门牌号掐掉，只留区域。医生看诊够用，患者隐私不裸奔。身份证号、联系电话、详细住址，也是能少输出就少输出。还加了一条：脱敏规则要能自己配，今天掐门牌，明天业务变了要掐到街道，随时能调。延时还得控制在一两秒以内，医生在诊室等着出结果，总不能让人家端着手机干等。（这里都简单，但是聊着聊着，就跑到视频语言的限制去了。）

需求合理，合同上写得下，要落地是另外一回事。

为啥？如果是单纯的结构化数据好办。数据库里规规矩矩的“地址”字段，写个规则掐头去尾，一行代码的事。可患者的信息不都躺在字段里。医生写病历是自由文本，“患者自述近期于腾讯大厦附近活动后出现头晕”，这句里有敏感信息吗？有。它躺在哪个字段里？哪个都不躺。半结构化、非结构化的内容（比如核磁共振影像），别提控制输出粒度了，你连它是不是敏感信息都识别不出来。

再打个不严谨的比方：结构化数据像会议签到表，名字就在格子里，划掉那一格就完事；非结构化数据像一段没讲稿的谈话视频，敏感的话夹在闲聊中间，你得先从头听完看完，才知道哪几秒该消音，掐狠了不成句，掐轻了漏了词。翻译过来：“消音”就是脱敏，“掐多少秒”就是粒度，严丝合缝。

今年网安周把“智能时代”写进主题，“人工智能安全治理”头一回单独成场分论坛，说明官方也开始正面接这道题了。海外的瓜也没停过，OpenAI家的智能体前段时间偷偷把一个德国网站改造成自己的留言板，发了上万条帖子，管理员删一条它补一条。头部大厂都看不住自家AI，普通企业凭什么觉得接个公网模型就能睡踏实？

02

PART

“那检查到底查什么？会不会罚款？”

QUESTION 02 · 罚款与突击

上个问题还没接稳，第二个就追上来了。问这个的一般是更务实的老板：咱别聊那么远，检查查什么？罚不罚？

潜台词就是：我现在突击，来不来得及。

我的答案通常是：现在才想起来突击，已经晚了半拍，但是……

今年网安周有个不太起眼但很关键的安排，全国网络安全标准化技术委员会的“标准周”也在济南同期办。标准这东西，平时没人翻，检查时全是它。就说数据安全，GA/T 2380这类标准已经把要求钉死了：数据要分级别，敏感数据要识别、要标记、要脱敏，一条一条都是硬杠，级别越高加码越狠。上面那个客户要做的输出脱敏，标准里早就写得明明白白，企业照着抄作业就行，前提是你得知道作业本在哪。

监管这边也不玩虚的。前几天公安部通报42款违法违规收集个人信息的移动应用，上海网信办跟着通报11款。光“未经用户同意收集使用个人信息”这一项就占了27款。啥叫未经同意？就是你没点同意，它先拿了。翻译大白话就是：先斩后奏，甚至斩了也不奏。

安全合规跟健身一个道理。平时不练，比赛前一周狂灌蛋白粉，上场还是跑两圈就喘。台账平时不记，检查前一夜补出来的材料，检查组翻一页就能闻出隔夜饭的味儿。

03

PART

“被通报了，会怎么样？”

QUESTION 03 · 明账与暗账

这个问题往往压轴，问的人声音也最小。

42款通报里有个扎眼的现象：医疗健康类小程序是重灾区。重灾区到什么程度？10款“未公开个人信息收集使用规则”的应用，清一色全是医疗就医相关，一个外人都没有：

有来医生

石榴云医

橄榄医疗互联网医院

博爱中医

管着老百姓健康信息最多的一批应用，自己连“我收集了你什么”都懒得告诉你，这事怎么想怎么黑色幽默。

被通报的直接后果：下架、整改、约谈，一套流程走完，返工的成本比一开始就合规高好几倍。这还都是明账。真正疼的是暗账：医疗行业吃的就是信任饭，你的小程序被挂上“违规收集个人信息”的通报，患者下次还敢把病历交给你吗？客户用脚投票，比监管罚款狠多了。

顺手提醒一句：上了通报的小程序，你可能看完新闻就把它卸了。

但你交出去的身份证号和就诊记录，没有卸载按钮。

///

LAST

写在最后

THREE HONEST WORDS · 三句实在话

三句实在话，都是电话里说烦了的：

1

密码该换的换，尤其是还挂着默认密码的设备和服务，别等机器人替你试出来。

2

用AI之前先想明白两件事：数据从哪进，从哪出。输入输出加中间这段管不住，全是白搭。

3

老板们，今年网安周的主题是“智能时代，网安护航”。护航之前，先看看你船上的AI是谁在开。

横幅年年差不多，问题年年也差不多。唯独今年，AI管控越来越热。

我是老登，一个在数据安全行业摸爬滚打多年的老兵。如果你觉得今天这篇有收获，欢迎点赞、在看、转发三连，我们下篇见。

既然看到这里了，如果觉得有用，随手点个赞、在看、转发三连吧。

点赞

在看

转发

THANKS FOR READING

深圳

注释：如有失误，望批评指正！

后面会写下Windows和liunx的应急响应技巧、容器、还有一些网络安全、数据安全。

后台输入“Windows应急响应手册、linux应急响应手册、数据安全政策、数据安全治理、电力、工业、金融、0731、0830、0911、2026、007、008、009、176”有相关资料可供下载！

免责声明：

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。

任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。

本文转载自：老登的安全观 iconic iconic《网安周的第一天》