文章总结： 文章借Sutton苦涩教训指出：当前SOC依赖人工规则与专家经验已陷瓶颈，未来必由海量计算与端到端学习接管；检测需转向高保真仿真强化学习，响应借AI全史上下文压缩误报，经济性终将压倒人力成本；然对抗漂移、标签稀缺与可解释鸿沟使转型不对称，未来十年将是透明规则与上下文智能体混合的渐进时代。 综合评分： 88 文章分类： 安全运营,AI安全,威胁情报,漏洞分析,安全建设

苦涩的教训：网络安全运营的未来

原创

天御 天御

天御攻防实验室

2026年1月16日 15:06 广东

2019年，人工智能研究者Richard Sutton发表了一篇题为《The Bitter Lesson》（苦涩的教训）的文章。虽然该文讨论的并非网络安全，但今日重读此文，却迫使我们直面一些关于现代安全运营中心（SOC）令人不安的根本性问题。

Sutton的核心观察是：人类总是持续高估自身“聪明才智”的价值。几十年来，研究者们试图通过将人类知识显式编码进系统来构建“智能”系统——例如硬编码的国际象棋策略、语言学规则、驾驶行为模式等。然而一次又一次，这些所谓“专家系统”最终都被那些仅仅依靠海量计算、在原始数据上进行搜索和学习的“笨”方法所超越。

这个“苦涩”的教训在于：试图将我们对世界的理解直接嵌入机器之中，是一条看似捷径、实则最终成为瓶颈的道路。这就引出了一个尖锐的问题：当今的安全运营是否正陷入同样的循环？

手工打造的安全运营中心

当前的主流检测与响应工作流，与Sutton所批判的“专家系统”有着惊人的相似性。

当一名检测工程师编写一条检测规则时，本质上是在手工打造一个特征：“我认为恶意行为可以被定义为 process.name == ‘powershell.exe’ 并且 command_line 包含 ‘-enc’”。即使进入了SOAR时代，事件响应在很大程度上仍然依赖人工，由专家运用人类定义的启发式方法，对每一条告警逐一判断其恶意或良性。

正方观点：为何“苦涩教训”在安全领域不可避免

很难否认，当今的SOC在很大程度上正是Sutton所描述的“专家陷阱”的教科书式体现。

我们已经在多个相邻的复杂领域亲眼见证了“专家方法”的崩塌：

• 自动驾驶从最初脆弱的硬编码规则集合，迅速转向端到端深度学习，让车辆直接从原始视频数据和仿真环境中学习驾驶行为；
• 语音助手（如Alexa、Google Home）也早已从僵硬的命令控制循环，被完全重建在大型语言模型之上，以应对自然语言的复杂性与细微差别。

安全领域最终很可能会走上同样的道路。我们正试图用人类认知去对抗一场计算本质的战争。接受“苦涩教训”几乎是不可避免的，因为它能同时解决三个根本性瓶颈：

1. 检测（Detection）当前威胁检测方式最显著的局限在于：如同早期计算机视觉研究者试图为每一种可能的视觉变化手工设计“边缘检测器”一样，今天的检测工程师也在试图为每一种可能的攻击路径手工编写规则。恶意行为的变异近乎无限，且持续演化，这使得静态规则在适应性上存在结构性的根本缺陷。

   “苦涩教训”提示我们必须超越手工规则。可能的转型方向是进入所谓的“经验时代”——从依赖刚性、人为定义逻辑的系统，转向直接从环境中学习的系统。其中一条可行路径是：在高保真仿真环境中通过强化学习来训练检测模型。让智能体在完全镜像生产环境的仿真世界中不断行动、接受反馈，从而学会识别那些人类无法显式定义的、极其细微且高维的入侵模式。这种方式能够让系统动态地、持续地学习恶意行为，其规模和适应能力将远远超越人类维护的规则集。

2. 响应（Response）第二个瓶颈是人类工作记忆的天然限制。分析师的“上下文窗口”仅限于其大脑能够同时容纳的内容：某个特定IP、最近的一条工单、或者对类似事件的模糊记忆。这种生物学限制迫使我们必须对“噪声”告警进行人为过滤。

   解决方案指向所谓的“上下文时代”。拥有正确结构化上下文的人工智能，能够在推理瞬间纵览企业全部历史，将一条可疑脚本与六个月前的Jira工单进行关联。这种方法解决误报问题的路径不是忽略数据，而是处理远超人类能力的数据体量。

3. 经济学（Economics）最终最具说服力的论据是经济性的。Sutton理论的核心在于：人类心智劳动是昂贵且有限的，而计算能力随时间推移却是廉价且呈指数增长的。

   当前我们正处于一个痛苦的过渡期：虽然算力成本持续下降、AI能力快速提升，但安全数据的体量却在爆炸式增长。这造成了一个暂时性的悖论——理论上算力更适合承担任务，但现阶段在实际成本和技术复杂度上仍难以被广泛采用。然而长期趋势是清晰且不可逆的：利用海量计算的方法会随着硬件进步而持续改善，而手工方法则不会。因此，从逻辑上讲，未来必然会出现一个性能/成本的交叉拐点。

反方观点：为何安全运营不是国际象棋

尽管“苦涩教训”在棋类、物理等领域已被反复验证，但在网络安全领域却面临一些独特且严峻的挑战：

1. 对抗性漂移（Adversarial Drift）国际象棋或围棋的规则是静态的，而安全环境面对的是一个主动的、具有智能的对手，对手会专门针对模型的有效防御进行战术调整。一旦某种防御变得有效，游戏规则就在那一刻改变了。 一个在某一时间点训练完成的模型，需要具备持续学习、不断适配持续变化的威胁与基础设施环境的能力。这是当前任何模型架构或智能体系统都远远无法企及的复杂度。 更进一步，每个组织的技术栈、配置和使用习惯都存在巨大差异，意味着每个模型理论上都需要针对具体组织进行训练和调优。这在现阶段的模型与计算基础设施下，对于检测任务而言几乎不可行。

2. 真实标签（Ground Truth）难题强化学习在奖励信号清晰、可由机器高速验证的场景下表现最佳（赢+1，输-1）。而在现实世界中，“真相”极少是二元的：系统管理员重置密码与攻击者进行账号接管，在日志层面看起来可能完全相同。

   这构成一个悖论：强化学习需要可验证的奖励函数。因此，仿真环境成为可能的突破方向——因为在仿真中，我们掌控了全部场景，可以明确知道什么是ground truth。未来的核心挑战或许不再是为真实世界编写规则，而是设计足够混乱、足够逼真的仿真环境，使AI能够从中学会区分细微差别。

3. 可解释性鸿沟“苦涩教训”推崇端到端的“黑箱”学习。而安全从业者传统上将可解释性视为不可妥协的刚需——如果模型漏报了一次入侵，我们要求必须清楚知道原因。手工规则虽然脆弱，但却是透明的。

   然而，这个要求可能比我们承认的要更具弹性。我们之所以强烈要求“可信但可验证”，很大程度上是因为当前工具本身能力平庸。但行业早已大规模依赖闭源、极其复杂的EDR代理（如CrowdStrike）这一事实表明：只要一个“黑箱”展现出足够高的有效性与可靠性，我们事实上是愿意信任它的。如果某系统能够长期维持超人类水平的准确率与稳定性，那么对细粒度可解释性的运营需求将显著下降。我们有可能最终学会把结果置于对机制理解之前。

结论：不对称的转型

“苦涩教训”迫使我们谦卑地承认：人类的直觉并非智能的天花板，反而常常成为瓶颈。几十年来，我们一直将自身价值定义为能够显式描述恶意行为、或者从若干看似无关的信息碎片中直觉判断出活跃入侵的能力。

几乎可以确定的是，“苦涩教训”终将降临到安全运营领域，就像它降临到许多其他领域一样。然而，这场变革不会均匀发生。

我们正在目睹一场不对称转型：

• 响应（Response）和上下文处理能力正在快速加速；
• 而检测（Detection）则面临更漫长、更陡峭的爬升曲线。

在可预见的未来，透明、高速的静态检测规则仍将长期存在。 未来的SOC大概率将呈现混合形态：拥有广泛企业上下文访问权的智能体，将在人类分析师的监督下承担绝大部分调查重担；与此同时，AI辅助的检测工程师将利用基础模型大幅提升规则类检测的规模与效率。

这或许就是安全运营在未来十年最现实、最可能的图景。

本文作者：凯尔·贝利，谷歌安全工程经理

推荐阅读

闲谈

1. 中国网络安全行业出了什么问题？
2. 国内威胁情报行业的五大“悲哀”
3. 对威胁情报行业现状的反思
4. 安全产品的终局
5. 老板，安全不是成本部门！！！

威胁情报

1.威胁情报 – 最危险的网络安全工作 2.威胁情报专栏 | 威胁情报这十年（前传） 3.网络威胁情报的未来 4.情报内生？| 利用威胁情报平台落地网空杀伤链的七种方法 5.威胁情报专栏 | 特别策划 – 网空杀伤链 6.以色列情报机构是如何远程引爆黎巴嫩传呼机的？ 7.对抗零日漏洞的十年（2014～2024） 8.零日漏洞市场现状（2024）

APT

1. XZ计划中的后门手法 – “NOBUS”
2. 十个常见的归因偏见（上）
3. 抓APT的一点故事
4. 揭秘三角行动（Operation Triangulation）一
5. 闲话APT报告生产与消费
6. 一名TAO黑客的网络安全之旅
7. NSA TAO负责人警告私营部门不要搞“黑回去”
8. 我们为什么没有抓到高端APT领导者的荷兰AIVD
9. 抓NSA特种木马的方法
10. 美中央情报局（CIA）网络情报中心

入侵分析与红队攻防

1. 入侵分析与痛苦金字塔
2. 资深红队专家谈EDR的工作原理与规避
3. TTP威胁情报驱动威胁狩猎

天御智库

1. 独家研判：五眼情报机构黑客纷纷浮出水面
2. 美军前出狩猎并不孤单，美国网络外交局优先事项分析
3. 《国际关系中的网络冲突》
4. 首发 | 特朗普政府对华网络政策评估

免责声明：

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。

任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。

本文转载自：天御攻防实验室 天御 天御《苦涩的教训：网络安全运营的未来》