AI 攻防的矛与盾

admin 2026-11-22 02:58:08 网络安全文章 来源:ZONE.CI 全球网 0 阅读模式

AI 攻防的矛与盾

原创

CCR
CCR

CCR007

2026年11月16日 08:00
广东

去阅读

当真实攻击者用 AI 组织攻击,企业该如何构建有效防御

设想这样一个场景:攻击者借助 AI 理解目标业务,使用窃取的账号进入系统,再沿着正常业务流程尝试访问其他人的数据。单次请求看起来可能并不异常,连续操作的目的却可能是窃取数据。

面对这样的攻击,企业能否及时发现?即使没有发现,系统能否拒绝越权、限制损失?

AI 正在改变攻击的组织方式。攻击者可以利用模型分析信息、调用工具,根据反馈调整下一步。安全团队也可以利用类似能力开展授权测试,提前检验防线。

这类风险已经出现。Anthropic 曾披露,2025 年一次网络间谍行动中,攻击者利用其 AI 工具辅助多阶段攻击,尝试入侵约 30 个目标,少数目标遭到攻陷。攻击者仍参与了关键决策,AI 在执行过程中也会出错。

矛,是攻击者借助 AI 增强的攻击能力;盾,是企业识别、阻断和限制真实威胁的防御体系。 没有绝对隐身的矛,也没有能够发现和阻止所有攻击的盾。

一 矛:真实攻击者如何借助 AI

过去,攻击者可能依赖人工分析目标和反复操作工具;借助 AI,部分信息整理、工具调用与结果分析可以被串联起来。攻击者仍可能参与选择目标和关键决策,但一些中间步骤可以更快、更持续地推进。能力取决于所用模型、工具与实际环境,不应把所有攻击都描述成完全自主。

对企业而言,值得警惕的不是“AI 攻击”这个标签,而是攻击者能否把零散动作组织成一条围绕业务目标的路径:发现资产、理解业务和身份关系、试探权限边界,再寻找能造成实际影响的机会。

真实攻击者与企业防御:矛指向业务系统,盾要保护业务系统

1 工具标签不是可靠的防线

User-Agent 是客户端在 HTTP 请求中提交的身份描述,可以修改,只能作为识别线索,不能用作身份认证。攻击者可能更换工具或客户端,防守不能指望请求主动暴露攻击工具的名称。

即便在安全评估工具中,同一工具的不同执行路径也可能呈现不同特征。例如,CyberStrike 的网页抓取工具默认使用浏览器样式的 UA,特定挑战响应后的重试会使用工具名;其编译配置也设置了带工具名和版本的运行时 UA。单一标签不足以覆盖这些不同路径。

2 合法外观下,也可能存在恶意目标

攻击者可能利用被盗账号或已有权限进入应用,借助浏览器和接口交互探索业务。登录成功只说明身份认证通过,不说明之后的每一次资源访问都获得了授权。

例如,攻击者使用被盗的普通账号访问工单系统,再尝试接触不属于该账号的数据。防守方需要区分:哪些行为符合该账号的正常职责,哪些对象访问越过了权限边界。真实浏览器或正常格式的请求都不能成为可信证明;自动化本身也不必然意味着恶意。

3 AI 让多步攻击更容易衔接

模型可以帮助攻击者整理目标信息、提出下一步假设,并根据工具返回结果调整路径;人也可能在关键节点介入。在 Anthropic 披露的案例中,攻击者将 AI 用于侦察、漏洞相关操作和数据分析等多个阶段。

这些能力会给防守带来更连续的压力:一次异常未必足以说明问题,多次分散在账号、会话和业务系统中的动作,合起来才可能显露攻击目的。防守需要关联行为,也必须承认检测不可能覆盖所有情况。

企业可以在授权范围内模拟上述威胁,使用受控账号和测试数据验证防御;演练必须设定范围、停止条件和审计要求。真实攻击者不会遵守这些约束,演练的价值在于提前发现他们可能利用的防守缺口。

二 盾:发现异常,更要限制影响

AI 时代的防守不能只追认工具名,也不能假设所有异常都能被识别。更可靠的设计是:通过协议、会话与业务行为发现线索,通过权限、隔离和风险控制限制损失。身份信息仍然重要,但不能把客户端自报的外观当作授权依据。

AI 安全之盾:发现线索、拒绝越权、控制损失

1 让关键行为可见,而不只是收集告警

如果安全平台只接收 WAF、IPS、EDR 已经产生的告警,就难以发现未触发现有规则的行为。

对关键应用,应关联访问、认证、授权和业务操作记录,回答四个问题:谁访问了什么?执行了什么操作?是否被允许?结果如何? 这些信息比单纯的状态码更有助于还原风险。

正常访问是判断异常的参照,但偏离基线也不必然等于攻击:新业务、合法批处理和合作方调用都可能改变行为。日志应优先覆盖关键路径,按敏感程度设置留存和访问控制,避免记录密码、令牌等凭据。

2 结合多层信号判断,不把指纹当身份

入口侧可结合 UA、TLS 和 HTTP 特征,发现客户端声明与实现之间的可疑差异;应用侧则关联会话、接口调用、授权失败和对象访问范围,识别反复探测或偏离业务流程的行为。正常人工访问与合法自动化都应纳入分析,不能把自动化直接等同于攻击。

JA4 等指纹是线索,不是个人或设备的唯一标识,更不能证明是否使用了 AI;不同程序可能共用底层 TLS 库。如果 TLS 在 CDN 终止,客户端与边缘、边缘与源站是不同连接,应从边缘获取原始客户端特征,不能把回源指纹当成客户端指纹。多个信号可能来自同一原因,不能简单计数后认定结论可靠。

3 用服务端授权守住硬边界

检测有漏报,权限控制不能依赖检测先成功。无论请求来自人、脚本还是 AI,服务端都应检查主体能否对目标对象执行当前操作;对不同租户与角色实施隔离,对敏感导出、权限修改等操作按风险增加验证或审批。授权应遵循最小权限、默认拒绝,并在每次请求中执行检查。

如果对象级授权正确执行,即使请求看起来完全正常,也不能因此读取无权访问的数据。行为检测帮助发现风险,授权规则约束操作;其中一个失败时,另一个仍应发挥作用。 授权也有实现错误的可能,因此需要持续测试,而不能被视为万能防线。

4 分级响应,把突破后的影响控制住

对可疑但证据不足的会话,可增加验证或交由人工复核;对高置信恶意行为,可按预设策略限制或阻断;确认凭据滥用后,应撤销相关会话或令牌并处置账号。响应要结合业务影响和置信度,避免误伤合法用户。

控制对象不能只停留在 IP,还应覆盖账号、会话、接口与资源。服务账号保持最小权限,限制批量读取和导出;对服务器代发请求等场景,结合应用校验和网络出站限制,降低访问未授权目标的风险。这些措施不能保证入口永不失守,但有助于限制影响范围。

每个重要测试场景都应记录在哪一层被发现、采取了什么动作、动作是否有效以及最终影响。边缘阻断、业务授权拒绝和主机隔离是不同的防御结果,必须分别核实。修复漏洞或调整策略后,再用同一案例回归,才能判断防御是否改善。

三 用授权演练检验对真实威胁的防御

真实攻击者不会提前告知目标、停止条件或工具特征。企业不能等到他们实际得手,才知道防线是否有效;授权演练的作用,是在可控范围内模拟相关行为,检验防守能力。

例如,围绕前述被盗账号访问他人数据的假设,可以准备经过授权的测试账号和测试数据,检查对象级授权是否拒绝越权;同时观察账号、会话和业务操作能否关联,防守人员能否发现连续异常。检测侧可以不预先获得具体测试细节,但演练控制方应保留真实标签和完整审计。

不仅要确认有没有告警,还要记录:风险在哪一层被发现或阻断,采取了什么措施,措施是否生效,是否影响正常业务。没有告警而授权成功拒绝越权,与产生告警却未能阻止数据访问,是两种不同的结果。

企业可选择重要应用,纳入正常人工访问、监控、批处理和合作方 API 作为对照;必要时使用不同工具标识和执行方式,避免防御只认出演练工具。单独评估某一因素时应控制其他变量;评估动态智能体时则应记录完整过程。

发现缺口后,修复权限、完善检测或调整响应,再用同一案例回归。授权测试是检验盾的手段;最终要抵御的,仍是不会事先打招呼的真实攻击。

把一次攻防演练,变成持续验证的闭环

四 AI 原生安全:让判断与控制形成闭环

AI 原生安全的变化,不是让模型代替所有安全机制,而是让攻防工作从固定步骤和零散告警,转向围绕业务目标持续获取上下文、提出假设、执行验证并依据结果调整。模型可以辅助归纳和规划,但可能出错;工程系统负责执行权限等明确控制。两者必须配合。

在授权演练中,安全团队可以把应用结构、角色、资源和已有证据提供给测试智能体,让它在限定范围内选择验证动作。面对真实威胁,守方则需要让 AI 关联账号、会话、业务事件和资产信息,辅助调查与响应。证据不足时应保留不确定性,而不是把推测写成事实。

与此同时,智能体本身也进入了安全边界:它读取的页面、日志和工具输出可能包含恶意指令,不能因此获得新的系统权限;工具调用应接受独立的权限校验,敏感操作按风险要求人工确认,并保留审计与回退能力。模型可以建议行动,但不能仅凭生成的判断绕过既定控制。

更强的模型不会自动带来更坚固的盾。缺少业务上下文,防守难以判断行为是否越界;缺少可靠数据与控制接口,分析也难以落地。企业应持续结合真实威胁情报和可复现的授权演练,检验检测、授权与响应是否有效,最终减少真实攻击造成的损失。

评论:0   参与:  0