我们如何抵御一次AI驱动的攻击

admin 2026-11-18 01:48:18 网络安全文章 来源:ZONE.CI 全球网 0 阅读模式

我们如何抵御一次 AI 驱动的攻击

Eye Security
Eye Security

securitainment

2026年11月17日 14:50
中国香港

去阅读

作者:Bas van den Berg


那通电话在深夜打来,而我们面向外部案件的事件响应 (incident response) 力量当时已经全部投入到别处。通常在这种情况下,我们会拒绝或转介这类案件,但这一次不同。在很早的阶段,受害企业就已经分享了一条关键信息:这次 AI 驱动的攻击,使用的是 ARTEX,一个由 LLM 驱动的自主渗透测试框架。考虑到这些因素,我们还是决定接下这个案子,并把它交给我们的研究团队,团队整体有丰富的 IR 经验,由我们的 CTO 领导。我们迅速执行了久经验证的 IR 流程手册,例如为我们的 EDR 启用一个租户,让我们在一小时内获得了对该环境的可见性。

什么是 ARTEX?

ARTEX 是一个进攻性安全框架,威胁情报报告把它描述为 AI 驱动的:语言模型 agent 搭配标准黑客工具,在几乎没有人工介入的情况下运行一次\"渗透测试\"。每个 agent 挑选一个目标,尝试一次攻击,读取结果,再决定下一步尝试什么。

它的强大之处并非某一个新的漏洞利用,而是规模与速度。许多 agent 并行工作并共享各自的发现,因此一个 agent 发现的任何一个秘密,几乎会立刻被其他 agent 沿着它可能打开的每一条路径加以尝试。当某次尝试失败时 (遇到速率限制、防火墙规则或被封禁的 user agent),这些 agent 会在几分钟内自我调整并再次尝试,无论白天黑夜。它们大多重用广为人知的工具和技术,因此力量在于以比人类团队更快、更广的方式把它们组合起来。

如果你和我们一样,通常不会照单全收各种炒作。诚然,我们已经认识到 LLM 是非常 (我们甚至愿意说 极其) 有用的工具,但关于网络安全攻击将以机器速度到来、所谓\"AI 末日\"即将降临的说法,仍显得有些离谱。然而不到一天之后,在与这次攻击的第二波较量时,我们已经成了真正的信徒。我们会在这一系列博客中分享我们的所学与所见,希望其他人能从我们的经验中获益。

第一部分:agent 登场

虽然接案发生在深夜,我们的 CTO 报告说客户拥有一支能干的队伍,高级开发者既有干劲又有专长。对我们而言,这意味着我们在另一个层面上工作:在力所能及之处提供支持,同时把全部精力放在环境的安全上。事件的时间线已经部分补齐:最初的访问是通过一个 PHP shell 获得的。我们听见你在想:他们应该给 PHP2Shell 打补丁才对!然而,最初的访问源自一个有漏洞的自定义 PHP 上传功能,就发生在接案的同一个晚上。对我们来说,这一点已经不同于大多数 IR 案件。在那些案件中,我们通常是在勒索软件部署之后才进入环境;其根本原因通常是被攻破的 VPN 账户,或某款热门软件中的某个漏洞,而这些往往在数周或数月前就已上了新闻。这次不同,被利用的是自定义 PHP,用来获得一个 webshell,并立即被用来向环境更深处转移。

这个 PHP shell 已经让攻击者获得了他们本不该接触到的数据。攻击者显然是冲着钱来的,但这并非一个勒索软件团伙:他们直奔任何能变现的东西而去。我们确实预计勒索软件团伙很快会全面拥抱 AI 工具,并正为随之而来的大批事件做准备 (遗憾的是,我们并没有夸张)。这个 PHP shell 给了攻击者 (更确切地说:给了那些 LLM agent) 更大的价值,因为它暴露了包含更多秘密的环境变量。当人类发现这些秘密时,通常会很兴奋,但首先得弄清楚在哪里、如何使用它们。然而对于 LLM 而言,新发现的秘密几乎立即被用于并行的攻击路径。这正是此类情形如此难以防御的原因,也是我们所认为的真正的\"机器速度\"。

\"没有任何人类团队能在那么短的时间里应对一次速率限制、一次封禁和一次基础设施的更换,更何况是在半夜。\"

为了看看这在实践中是什么样子,这里有一个例子。被窃取的秘密中有某个平台的 API 密钥。agent 发现它们后几分钟内,第一个带着被窃密钥的调用就抵达了该 API。十五分钟后,这些 agent 已经写好脚本来批量抓取该 API。当 API 的速率限制器开始拒绝它们时,agent 大约用了三分钟就写出一个新版本,在每次调用的请求头里放入一个不同的客户端 IP,于是速率限制器失效了。又过了十五分钟,它们达到峰值:一分钟内超过 9,000 次请求。当防御方关闭这条路线时,它们改为直接发起请求,通过一个包含 17,000 多个住宅代理地址的池子,整个上午大部分时间都在持续。没有任何人类团队能在那么短的时间里应对一次速率限制、一次封禁和一次基础设施的更换,更何况是在半夜。

借助获取到的秘密,这支 agent 大军拿到了云服务商的 secret store 的访问权限,暴露出更多的秘密 (你看出这是要往哪儿发展了吗?)。这些 agent 使用 reGeorg (确切地说是 Neo-reGeorg) 从 PHP 上传点转移进内部网络。你可能会说,这没什么特别的,这个隧道多年来一直是渗透测试人员的最爱。令我们吃惊的是 agent 改造它的速度:从 GitHub 下载它之后的几分钟内 (是的,那个 pod 有出站互联网访问权限),它们就把它改成将状态保存在内部缓存服务器中,于是无论负载均衡后面哪个 pod 应答,这条隧道都能继续工作。随后它们让隧道在一天的大部分时间里保持开启,轮流通过约十几个住宅 IP 中继,每次交接都有几分钟的重叠,足以支撑数十万次请求。令人意外的是,通过这条隧道回传的数据很少;数据是通过其他路径离开的。隧道一直到边缘节点的一次封禁将其切断才停止。与此同时,源于这部分入侵,攻击者获得了一名工程师身份的访问权限,从而得以访问一个 Git 托管服务。接着 LLM 做了一件训练有素的红队操作员可能会做、但绝不会这么吵闹的事:它们修改了 Git 仓库,使得部署自动化在 Kubernetes 上为攻击者部署了一个 pod。很明显这是由 ARTEX 驱动的,因为在环境中到处都是 LLM 在产物和日志里留下的痕迹,比如 artx-pod 或 artx-probe-qa-1。这些 agent 给我们留下了一条长长的追踪线索,因为它们立即安装了持久化并外泄了数据。随后它们继续向环境更深处转移,寻找诸如礼品卡兑换码之类能带来经济收益的数据,一路上还在定制开发的应用里添加后门管理员账户。

第二部分:以火攻火

在初步遏制、即隔离被攻陷的云环境之后,我们开始设法掌控局面。团队着手收集日志,并尽可能在网络的更多部分部署 EDR。这让我们很快获得了对被入侵主机的可见性,也让我们得以开始评估此次失陷的范围。我们当时还不知道,攻击者还准备了几个难缠的意外。

如前所述,攻击者使用 ARTEX 实施这次 AI 驱动的攻击很容易辨认。判断依据一是攻击的数量与广度,二是它发送的探测请求在名称上留下的明显破绽。这些特征让攻击非常吵闹,在主机一侧很容易识别。而在网络一侧,情况则完全不同:威胁行为者使用住宅代理隐藏自己的源 IP,混入正常流量之中。我们确实找到了一个 IP 地址,它把这个威胁行为者与公开报告关联起来,进一步印证了与 ARTEX 的关联以及其经济动机。公开信息已将 ARTEX 的使用与以牟取经济利益为动机的威胁行为者关联起来,他们正在滥用支付 API。接手这个案件后的这些天里,我们还发现涉及礼品卡业务的公司中,有更多遭到网络攻击。

\"以机器速度防御,意味着用机器来防御,并让人始终掌控它们。\"

考虑到失陷的范围之大,我们决定自行使用 LLM 来协助处理这个案件。ARTEX 框架之所以威力巨大,很大程度上源于 agent 之间会协同工作。因此,作为防御方,我们希望自己的 agent 以可审计且安全的方式协同工作。最终我们选定了一个共享的私有 Git 仓库,并向 LLM agent 下达自定义指令:通过 pull request 同步每一项发现、提交情况报告,并把原始日志排除在仓库之外 (这个决定我们后来有些后悔,后文再谈)。尽管存在局限,这种做法的效果相当好:一个 agent 的发现会被其他 agent 直接使用,它们借助 git commit 以及整合后的交接与报告来综合各自的结果。我们给予 agent 充分的调查自主权,访问权限限定为只读。不过我们对它们的结论也做了独立核验:仓库中的一个 hook 会检查 agent 针对云环境执行的每一条命令,阻断其中任何可能改变系统状态、读取秘密或打印令牌的操作。当访问权限无法限定为只读时,我们让 agent 构建一个包装器,通过阻断潜在的写调用来强制只读。EDR 遥测中的每一次查询都配有独立的目录并记录哈希值,便于我们事后说明查询了什么、何时查询、由谁执行。不过,各方获得的访问权限存在差异:例如,一位同事获得了云环境的访问权限,他的 agent 因此可以直接读取日志并搜寻攻击者。其他人的 agent 则无法把这些数据当作数据源使用,只能依赖产出的文档,而这些文档有时会与实际情况脱节。

例如,一个 agent 把某个客户网络地址标注为\"很可能是访客 Wi-Fi\"。这是一个猜测,却被当作发现记录了下来。其他 agent 从共享笔记里看到了它 (这部分运作得很好!),一天之内,这个标签就扩散到五份文档和一次数据申请中,直到一位同事的 agent 基于实时数据证明那是一条普通的员工连接。护栏本身也有盲区:有一次,那个让 agent 对云保持只读的 hook 阻止了一个 agent 编辑一条纯文本笔记,原因仅仅是文本中提到了某个云命令行工具的名称。这很令人烦躁,但我们宁愿在阻断上偏保守一些。有意思的是,在我们原以为 agent 会淹没于噪声的地方,它们常常正是切穿噪声的一方。在端点部署 EDR 之后,我们指示 agent 每 30 分钟执行一次查询。\"告警\"源源不断地涌来:一台笔记本在同一小时内出现\"勒索软件\"行为、持久化和凭据存储访问;一台开发人员的机器反复出现\"传感器篡改\"。每一次,agent 都会遍历进程树,并在几分钟内带回一份修正后的结论:比如某个 Windows 更新引发了重启,或者 Windows 上的 Linux 子系统造成了异常行为。我们认为这非常有价值,因为这类分诊正是会吃掉人类分析师整个夜晚的工作。

我们计划在之后处理上述全部问题,并发布一份概念验证 (proof-of-concept),因为我们认为用 LLM 处理这类案件是唯一可行的前进方向。由 LLM 主导的攻击,这一起不会是第一起,后面还会有更多。

第三部分:机器速度成为现实

就这个案子工作一天之后,我们双方——我们的团队和客户——开了一次会讨论下一步。当时 EDR 没有告警,攻击者也没有动静,秘密在我们已知范围内已经全部替换,于是双方共同决定恢复上线。不到一小时后,我们全面回到了事件响应状态:攻击者回来了,EDR 里出现数条严重级别的告警。这到底发生了什么?

\"当响应人员删除攻击者的工作负载时,部署自动化会在一秒之内尽职地重新创建它们;这套自动化为攻击者付出的努力,和为防御方付出的努力一样多。\"

我们怀疑,攻击者活动一度沉寂的原因仅仅在于他们的 token 额度耗尽了;通读 OSINT 报告后,我们知道我们的客户只是这次 AI 驱动攻击的目标之一。无论原因是什么,攻击重新启动,而攻击者依然掌握着 Git 托管服务的访问权限。agent 利用这一权限修改了部署。由于部署工具链会自动从一个由 Git 支撑的仓库同步内容,结果是在某台预发布主机上部署出了一个恶意的特权 pod。取得访问权限后,攻击者立即使用 nsenter 技术 转移到宿主节点。当响应人员删除攻击者的工作负载时,部署自动化会在一秒之内尽职地重新创建它们;这套自动化为攻击者付出的努力,和为防御方付出的努力一样多。与此同时,CI 应用的密钥已从 secret store 中被取走,agent 注册了自托管 runner,并在整夜里每隔八分钟重新注册一次,可能是为了在某次部署使用被投毒的 runner 时再窃取更多秘密。

目睹这一切之后,我们只能说一件事:我们现在理解了真正的机器速度。它吵闹、可被检测,同时也周密且极快,快过人类手工响应的速度。这意味着我们只剩一个选项:通过完全隔离来遏制入侵,而这个决定我们不会轻易做出。我们需要喘息时间来评估损失范围,以及有多少秘密需要轮换。在重新掌握控制权之前,恢复上线必须推迟。

同一天晚上,我们得以窥见攻击者的 agent 准备得有多细致。该环境中部署了业务伙伴用于交付订单的文件传输服务器,而 agent 在当天早些时候已经拿走了这些服务器的账户密码。在它们回来攻击这些服务器之前,一百多个地址在几秒内向它们发起了裸连接,甚至没有开始登录,这种量级远超平时的背景噪声。两分钟后,登录开始,来源地址仍在同一批地址之中。我们认为 agent 先检查了自己的代理列表,只保留真正能够到达目标的代理。我们锁定一个账户后,几秒内下一次尝试就来自另一个代理,并换用下一个被窃取的账户名。这是个小细节,却说明攻击经过有组织的安排:agent 在履行职责的同时不断规划、测试与调整。

\"不到三分钟内的十三次登录,每次登录一个套接字,仿佛在逐一核对一份走出容器的已知路径清单。\"

进入内部之后,攻击者的 agent 试图从这台文件传输服务器本身脱身。每次登录后一两秒内,该会话就要求服务器转发一个本地套接字,而每次都是不同的一个:容器运行时 (Docker、containerd、CRI-O,以及轻量级 Kubernetes 发行版使用的变体)、系统总线与消息总线、PHP 工作进程池、进程管理器,以及 SSH 守护进程本身。不到三分钟内的十三次登录,每次登录一个套接字,仿佛在逐一核对一份走出容器的已知路径清单。服务器拒绝了每一次尝试。人类操作员会试上一两个、环顾四周,然后做出判断。agent 则把它们全部尝试了一遍,节奏与其他操作一样快。

从这一刻起,我们既需要也获得了更多访问权限:CDN、云平台以及身份提供商 (是的,有两家)。现在我们可以大规模搜索攻击者留下的痕迹,从而为恢复制定方案。

第四部分:隧道尽头的曙光

有了新获得的访问级别,我们开始起草一份计划。基础设施需要放到 Cloudflare 后面,这样我们就能大规模地按允许列表或封禁列表来控制流量。所有被窃取的机密都需要轮换,但数量如此之多,我们不得不确定优先级。我们最顶级的 LLM agent 无法独自高效地完成这件事,因为连一个被窃取的 SSH 公钥也在轮换清单上。于是我们采用了一种混合方式:让 agent 检索无穷无尽的日志,把日志拆解为可操作的条目,再由我们逐条审阅这份清单,删除、修改或划掉其中的条目,最后把清单交给 IT 团队。

与此同时,我们也把 LLM agent 指向 ARTEX 自身的源代码,试图想出办法来扰乱这次 AI 驱动的攻击。虽然该框架不会执行来自外部数据的提示词,但有办法把\"渗透测试\"从你所守护的基础设施上引开。我们在 Cloudflare 上实现了这一点,当它启用时,我们看到攻击者从生产系统转向了 (不那么关键的) 开发基础设施!这个技巧后面再细说,但目前我们先把它留作底牌……

把一切放到 CDN 后面,只有在 CDN 的规则站得住脚时才有用。事件发生之前,有一个区域对内部工具设有严格的\"全部封禁\"规则,并带有一个例外,好让某个支付服务商能够投递它的 webhook。这个例外使用了该服务商的 user agent 字符串。agent 对内部工具发出的普通请求被封禁了;三分钟后,同样的请求带着那个支付服务商的 user agent 再次发来,并因为该 user agent 被豁免而通过了。从那以后,这个字符串就成了它们通往内部工具的钥匙,那个下午被使用了成千上万次。当我们停用这个例外时,agent 开始尝试其他 user agent (通用客户端、一个搜索引擎爬虫,甚至一个编造的测试字符串),看看是否还有别的东西被信任。这再一次显示了这支 AI agent 大军学习和适应的速度有多快。

然后,终于,在无数个小时的轮换机密、翻查日志和配置 Cloudflare 之后,我们再次有了足够的信心去上线。环境慢慢地、但确实地重新变得可达。有了新增的全部安全措施,无论是在 Cloudflare 上还是借助我们可靠的 EDR 方案,我们不再看到攻击者成功利用这些系统,业务也几乎恢复如常。回头看,尽管这次事件响应只持续了短短几天,我们可以有把握地说,如果没有这些额外的工具和 LLM 协助,重建并加固这个环境本来会耗费数周。它确实给了我们速度上的优势。

自然地,我们也设法抢先一步。攻击者的目标很清楚:任何能变现的东西。同一集团旗下还经营着一项相关业务,我们预判它会是显而易见的下一站。它所在的环境无法运行 EDR。于是我们改为调取它的流量历史和应用审计日志,在其中寻找攻击者的踪迹。在针对我们客户的攻击发生之前和之后,我们都没有发现他们的任何迹象。借助 LLM,我们梳理出究竟谁真正需要访问它的管理和 API 路径 (使用历史网络流量),并为他们起草了一份严格的允许列表,随时可以在该站点迁移到 CDN 后面时启用。一个自主攻击者速度很快,但事实证明它也很好预测:它会前往价值所在之处。这给了防御方一个难得的机会抢先抵达那里,但前提是你做出那个艰难的决定,把一切都关掉。

结论

回头看,穿透 ARTEX 造成的噪声之后,有四件事从中凸显出来。

第一,是发现某样东西与利用它之间的落差。一个找到密钥的人类攻击者必须停下来思考。这些 agent 不会:从窃取一份凭据到首次使用它,只花了短短几分钟;一条限速规则或一条 WAF 规则,只能给我们大约三分钟,随后 agent 就调整了它们的打法。

第二,是这些 agent 很吵。它们把自己的名字留在 pod 名称和探测里,对没有人类会去触碰的端点发起密集请求,并在装有 EDR 的系统上触发了检测。凡是我们有可见性的地方,我们都立刻看到了它们。

第三,是广度。这些 agent 不会只挑最好的一条路走到底:它们尝试每一条路,而且是并行尝试,并保住拿到的每一个据点:后门管理员账户、CI runner、恶意 Git 提交、SSH 账户凭据。遏制不再是找到那条入口:如今它要找到所有入口。

最后,是势均力敌。我们之所以能够跟上,只因为我们自己的 agent 也在并行处理日志,在严格的护栏保护下,由人来决定对什么采取行动。以机器速度防御,意味着用机器来防御,并让人始终掌控它们。

六个月前我们会把这称作科幻小说。如今我们已经亲眼看到一次 AI 驱动的攻击在数天之内一波波地对一家真实的公司发动。在本系列接下来的部分中,我们会更深入地讲述这些 agent 的行为方式、我们如何把它们从生产环境引开,以及我们用来反击的那套搭建方案。

失陷指标

我们向防御方分享这份 (并不详尽的) IOC 清单。

User Agent,尤其是在观察到多个时:

  • Mozilla/5.0 (ARTEX)

– 驱动 webshell 的 ARTEX agent
* Mozilla/5.0 (compatible; ArtExVerify/1.0)

– 脚本化检查某个新的 WAF 绕过是否奏效。
* Python-urllib/3.14

、python-requests/2.34.2
* Mozilla/5.0 (X11; Linux x86_64; rv:38.0) Gecko/20100101 Firefox/38.0

– 隧道流量上 Neo-reGeorg 的默认 UA

ARTEX 基础设施 (OSINT):

  • 207.5.195[.]93

– 在类似攻击中用于托管 ARTEX 的 VPS
* artex[.]lol

、staging[.]artex[.]lol、artex[.]tokena2b[.]top、artex[.]ok7777[.]eu[.]cc、artex[.]noog2infra[.]site
* 容器镜像 tomicdd/artex、congdonglinux/artex

回调与外泄:

  • \\*.dnslog.cn (例如 artxdiag20261106artx.3vd1og.dnslog[.]cn)
  • \\*.oast.me
  • webhook.site

Webshell 特征:

  • HTTP 头 X-ARTX-KEY,也接受作为参数 ?k=
  • 响应标记 ### ARTX-AGENT
  • Shell 访问密钥 k=x9f3c2b7e

标记字符串 (高价值:这些 agent 会给自己的工作打标签)

  • 文件和对象前缀:
  • artx_

、artx-、ARTX (例如 artx_s5.php、artx-pod、artx-label-probe);
* zzartx0000.php

;
* 数据标记:ARTEX_WRITE_PROBE、ARTEX-PROBE-0001、ARTX_PERSIST_OK、artex_control_marker_zz9q。
* Control-404 探测:zz-notexist-、zzq*、artx-nonexistent、artx2909-zzq7、zznotexist-* 通配符子域名。
* 植入对象的名称:
* 命名得像 QA 或审计账户的后门管理员 (qa_probe_*、qa.audit29a);
* 名为 sink-* 的自托管 GitHub runner。
* Git 作者:[email protected]、[email protected]。

行为指标

  • 快速切换 user agent 以绕过 WAF,伪造 user agent
  • 上传变成 webshell:PHP 上传使用扩展名模糊测试 (.phtml/.php5/.php7/.phar/.inc/.PHP),随后是存储型 XSS 测试文件 (.html/.svg/.js)。
  • 一份新凭据在几分钟内就被使用,走并行路径。例如:对 122 个机器账户做一次令牌横扫,使用 GET /api/v1/me。
  • 数据库文件读取。通过 phpMyAdmin 使用 LOAD DATA LOCAL INFILE 写入名为 artx_* 的临时数据库,以及使用 INTO OUTFILE 进行写入测试 (/tmp/x.php5),随后通过 HTTP 进行一次探测。

原文链接:https://labs.eye.security/how-we-defended-against-an-ai-driven-attack/

    金融App人脸核验的安全账,该怎么算清楚? 网络安全文章

    金融App人脸核验的安全账,该怎么算清楚?

    本文分析了金融App人脸核验过程中存在的风险,包括SDK初始化时序错位、第三方组件黑盒流转、传输与存储环节的明文残留以及验证逻辑的唯一性绑定。同时,提出了合规要求和整改路径,强调人脸信息处理的合规性对用户资产安全和隐私尊严的重要性。
    今日学到nsenter 网络安全文章

    今日学到nsenter

    本文介绍了在K8S节点上使用特权容器执行宿主机级操作的方法,包括使用nsenter工具进入宿主机挂载命名空间,并解释了相关配置和权限要求。
    评论:0   参与:  0