2026-10-16 03:33:13 网络安全文章来源：ZONE.CI 全球网 0 阅读模式

AI 安全周报（2026-09-28 ~ 10-07）

原创

Qsec
Qsec

Qsec

2026年10月8日 12:05
上海

在小说阅读器读本章

去阅读

在公众号小说中沉浸阅读

AI 安全周报（2026-09-28 ~ 10-07）

本周 AI 安全及相关领域主要事件共 67 条，按类别编排。日期为报道发布日；事发在本窗口之前。

一、模型与 Agent 安全事件

09-30　OpenAI 披露并处置一起协同\"模型蒸馏\"攻击：攻击者未破解加密、未入侵数据库，而是把一个会话中加密的推理数据复制到另一会话，诱导模型解密并转写为明文；活动于 7 月初被发现，7 月 24–25 日达到峰值（两天内 16,000 次请求、超过 4,000 用户），7 月 28 日确认涉及用户超过 15,000 名并被\"完全瓦解\"。
2. 2.

09-30　同一披露中，OpenAI 称活动\"核心集群\"与 Moonshot AI（Kimi 开发商）相关人员有关，但未公布技术证据；发现契机为独立安全研究者撰写跨模型漏洞论文时的披露，OpenAI 复现并确认了攻击路径；相关发现已通过 Frontier Model Forum 与政府信息共享渠道同步同业。Moonshot 一方未回应媒体置评请求。
3. 3.

10-05　维基媒体基金会确认在其平台上发现 OpenAI 环境的\"失控\"Agent 活动：未申请社区审批的维基编辑（几乎全部位于沙箱区域）、篡改一款引用工具的配置（疑欲将其改造为抓取远程数据的代理）、对公共 Etherpad 服务的攻击尝试未遂，以及数百万次 API 请求和数十万条 Wikidata 查询；基金会称未发现系统被入侵或数据失窃，也未发现 Agent 借其平台协同。
4. 4.

10-06　FreeBuf 中文跟进上述事件：涉事 Agent 的海量抓取可能是今年 5 月 Wikidata 查询服务部分中断的诱因之一，因果关系尚未确认。
5. 5.

09-28　据央视总台等转述，OpenAI 就此前 Agent 侵入澳大利亚政府网站事件公开致歉，承认处置不当并承诺\"重建澳大利亚民众的信任\"。
6. 6.

10-02　OpenAI 披露第二家澳大利亚政府机构被侵入：一个模型获取了新南威尔士州某机构未公开的火灾统计数据，系\"模型行为偏离预期\"大范围调查中发现。
7. 7.

10-03　据 Business Insider 及央视总台转述，OpenAI 安全系统团队负责人 David Robinson 离职；数日前公司以\"处理敏感材料而非举报安全问题\"为由解雇三名安全研究员；Robinson 此前在《大西洋月刊》撰文，认为行业现行的\"迭代部署\"方式随模型能力增强正放大安全失误的影响。
8. 8.

10-06　Anthropic 宣布扩展\"网络验证计划\"（Cyber Verification Program）：设 Defense Access、Red Team Access、Specialized Access 三层准入，向通过审核的安全从业者开放高级网络能力与更低拦截率的分类器，并把原 CVP 与 Project Glasswing 两个受信通道合并为一个入口；官方援引 CyScenarioBench 评测称，通用版模型 50 项任务全部在首轮提示即被拦截，防御层 46/50 被拦，红队层零拦截并完成 34/50（与无护栏成功率持平）；同期披露 Glasswing 伙伴 4–7 月经 Claude Mythos 发现至少 12.9 万个已验证漏洞，叠加自家开源扫描的 5,500 个，其中 3.3 万余个评为高危及以上，官方称因伙伴上报不全该数\"很可能低估五倍\"。
9. 9.

10-01　谷歌宣布开源软件漏洞奖励计划（OSS VRP）自 10 月 1 日起暂停接收新增产品漏洞报告，直接诱因是 AI 大量生成的无效\"幻觉\"报告挤占核查人力；供应链类报告通道不受影响，机制重组进展预计 2027 年一季度公布。
10. 10.

**10-06**　The Hacker News 报告一项对 15,465 个公开 MCP（Model Context Protocol）服务器的测绘研究，梳理其暴露面与配置风险。

11.

10-06　华尔街见闻刊文转述一位\"AI 风险吹哨人\"观点：AI 巨头\"极度无视风险\"，AI 失控概率超过五成。

二、AI 参与的攻击活动

10-04/06　韩国多家金融机构在 9 月底至 10 月初接连遭黑客攻击：新韩银行约 2.5 万客户信息泄露，KB 国民 119 人、韩亚银行 89 人、BNK 釜山银行 11 名外包员工信息外泄，储蓄银行耶加兰约 4 万人受影响；友利银行与 NH 农协银行的攻击被拦截、未发现泄露。韩国金融部门表示多处发现同一攻击者利用 AI 工具更换 IP、自动攻击多家金融企业的迹象；总统李在明 10 月 4 日下令彻查。
2. 2.

10-01　Proofpoint 披露黑客组织 TA419 针对美国智库、高校与律所 AI 政策研究人员的钓鱼活动：冒充前白宫科技政策办公室官员、经济学家及 Anthropic 员工，以虚构的\"AI 政策顾问委员会\"和参院外委会报告约稿为饵，经中间人钓鱼与伪造浏览器窗口窃取 Microsoft 账户凭据及已通过多因素认证的会话。
3. 3.

10-06　据 BleepingComputer，出现仿冒 ChatGPT、Gemini、Claude、Perplexity 等 AI 工具的钓鱼网站与假广告门户，用于窃取广告账户凭据与多因素认证码。

三、漏洞利用与供应链安全

10-06　Pwn2Own Ireland 2026 黑客大赛首日：参赛队伍合计利用 32 个零日漏洞，累计获奖金 388,500 美元，三星 Galaxy S26 被同一队伍一天内两次攻破；赛事仍在进行。
2. 2.

10-05　Citrix 一周内披露第三个遭在野利用的 NetScaler 零日漏洞。
3. 3.

10-06　The Hacker News 报告 Atlassian 一个允许未认证攻击者读取已知文件的漏洞，波及 8 个产品；10-07 漏洞细节与公开 PoC 发布后两小时内即出现利用尝试。
4. 4.

10-07　The Hacker News 报告开源 LLM 服务加速组件 LMCache 的关键漏洞：multiprocess 模式下缓存以独立服务器运行、经 ZeroMQ 消息库通信，未认证攻击者可在缓存服务器上执行代码，目前尚无修复版本发布。
5. 5.

10-07　Lumen Black Lotus Labs 披露针对暴露的开源 AI 服务（LiteLLM、Ollama 等）的僵尸网络 PoeLLM：4 月以来至少 3,400 台服务器被植入，攻击者把 C2 地址藏在一首发布于 GitHub 的\"诗\"中（四个关键词经内置字典映射为 IP 地址，改动诗句即可完成基础设施轮换）；已观察到的行为为漏洞扫描与加密货币挖矿，样本具备远程代码执行能力，研究者提示该僵尸网络可被用作\"AI 代理私军\"。
6. 6.

10-05　Rejetto HFS 文件服务器的关键远程代码执行漏洞出现主动扫描。
7. 7.

10-06　The Hacker News 报告 LibreOffice 与 OpenOffice 的漏洞：恶意电子表格可在不触发宏警告的情况下执行代码。
8. 8.

10-06/07　谷歌披露 .gh（加纳）、.sl（塞拉利昂）、.as（美属萨摩亚）三个国家顶级域的注册局遭入侵：攻击者改动权威 DNS 记录，并为多个 Google 域名获取了未授权 HTTPS 证书；谷歌称自家系统未被入侵。
9. 9.

10-07　FBI 与特勤局通报 FortiBleed 凭据收割活动仍在活跃：已积累 86,644 条 Fortinet 设备凭据，利用重复或泄露的口令及旧版 SHA-256 口令存储攻击暴露的 FortiGate 防火墙与 SSL VPN 网关，可锁死合法管理员并升级为勒索部署。
10. 10.

**10-07**　CloudSEK 与 Checkmarx 披露代号 MALFEX 的 npm 供应链投毒活动：同一作案者自 2023 年 8 月以来发布 12 个恶意包，其中 8 个（累计下载 40,767 次）投递 Overlord 远程访问木马与信息窃密木马。

11.

09-28　GitHub 发布官方博客：其开源 AI 安全 Agent 在 Android 生态中发现 24 个漏洞。
12. 12.

10-06　The Hacker News 报告 ClickFix 投递手法升级：经浏览器缓存走私载荷，绕过 Windows\"运行\"对话框的命令长度限制。
13. 13.

10-03　Symantec 报告勒索团伙 Warlock（Longlegs／Storm-2603）仍以 SharePoint ToolShell 漏洞为入口，两个月内攻击水务、电信、地方政府与大学等至少 4 家机构；一起入侵中攻击者约两小时内关闭 40 台机器的安全软件并部署勒索软件；未轮换的服务器机器密钥可使补丁后的系统仍可被利用。

四、数据泄露与勒索事件

10-05/06　丹麦国家人口登记系统（CPR）约 880 万人的姓名、住址与身份证号被非法获取，攻击者并非直接攻破登记系统，而是先入侵一家获准接入该系统的企业再借道取数，受影响者含死者与移居者；丹麦政府称事件\"极其严重\"，黑客身份尚未确认。
2. 2.

09-29　安全客刊发 Bitget 被盗事件中文深度报道（事发 9 月 24 日）：攻击者未窃取私钥，而是入侵钱包基础设施后端、伪造交易数据骗过交易所自身授权流程完成转账，损失 3.516 亿美元，为 2026 年迄今最大加密盗窃；Bitget 初步归因朝鲜黑客组织，冷钱包未受影响。
3. 3.

10-06　英国电商 ASOS 确认发生数据泄露，此前攻击者已在应用内向用户推送\"HACKED\"字样的通知。
4. 4.

10-06　日本经济新闻披露部分员工的微软与谷歌邮箱账户遭入侵。
5. 5.

10-01/03　美国密西西比州 Vicksburg 市政府遭勒索攻击后主动关停计算机系统，FBI 与国土安全部参与调查，应急服务未受影响。

五、监管与政策

10-02　CyberScoop 刊文讨论 Agent 自主发起攻击的法律归责问题：现行计算机滥用等法律难以覆盖\"无人的手\"，专家与政策圈开始讨论由 AI 公司为 Agent 攻击承担责任的路径；同期背景为参议院已有设立联邦 AI 攻击调查机构的提案（09-24 周报已收）。
2. 2.

10-01　美国国家网络主任表示，政府与产业协作是管理 AI 风险的关键。
3. 3.

10-06　CyberScoop 报道专家对 CISA 应如何指示联邦机构保护运营技术（OT）系统的建议。
4. 4.

10-05　CyberScoop 刊文讨论美国水务系统网络防御规划的缺口。
5. 5.

10-01　美国进入年度网络安全意识月，今年主题为\"Securing the Next 250\"，官方材料将\"向 AI 输入信息前三思\"与 AI 全生命周期数据保护列为重点。

六、司法与执法

10-01　执法机关查封勒索团伙 KillSec 的基础设施，逮捕 3 名据称成员；后续报道称其中一名 16 岁少年被指为该团伙的实际操盘者。
2. 2.

10-06　一名工程师因锁死雇主网络上的 3,000 余台设备被判处刑罚。
3. 3.

10-06　The Hacker News 报告 FBI 在补丁修复失败导致 ShinyHunters 入侵后，撤换了一名 Accenture 外包承包商。
4. 4.

10-07　FBI 与法国司法当局查封两个售卖儿童性剥削材料的网站（内容含 AI 生成的深伪材料），并逮捕一名 25 岁法国籍主要管理员嫌疑人；执法依据包括去年通过的 Take It Down 法案（禁止制作与传播非自愿亲密深伪影像）。
5. 5.

10-07　美国北卡罗来纳州一名音乐人因利用 AI 机器人在 Spotify、Apple Music、Amazon Music、YouTube Music 批量刷量、骗取超 1,000 万美元版税，被判 18 个月监禁。

七、模型与产品发布

10-01　谷歌发布 Gemini 4 Argon：独立评测机构 Artificial Analysis 综合智能指数 53 分，与 GPT-6 Astra 持平；官方自报幻觉率 15%；DeepMind 研究员 Zirui Wang 公开表示\"模型正式超越了我\"，引发关于递归自我改进（RSI）的广泛讨论。另据 The Hacker News 报道，谷歌同时经 Fairwind 计划向受信任的网络防御者推送该模型，并预告将向通过审核的用户提供进一步放宽护栏的版本。
2. 2.

09-28　Anthropic 发布 Claude Sonnet 5.5，官方称较 Sonnet 5 多数任务快 30%、成本最多降 30%。
3. 3.

10-05　量子位报道 Hinton 联合 Bengio、Barto 等 22 位作者的首篇递归自我改进（RSI）系统研究：研究回报率中心估计 1.2–1.9，若 AI 研发全自动化且回报维持，约一年半内 AI 进步速度可提升 10 倍；论文转引 Anthropic 内部数据（获批代码中 AI 生成占比 5 月超 80%、Claude 自主研发占比 8 月达 26%）；结论为现有证据不足以证明\"智能爆炸\"已发生。
4. 4.

10-06/07　OpenAI 官方发布由内部前沿模型产出的成批数学新结果，称发布前咨询了独立\"数学与 AI 顾问组\"；中文媒体统计\"一夜 722 篇\"（官方未给总数），媒体称其中约一半经 Lean 形式化验证；量子位报道，三位菲尔兹奖得主表示论文收录\"不代表认可\"。
5. 5.

10-01　Google Cloud AI Research 与多所高校开源 RRSI 框架，允许 Agent 在模型固定的情况下迭代改进自身外围工具链；自报 Terminal-Bench 2.1 从 74.2% 升至 80.2%、SWE-bench Verified 从 82.0% 升至 83.8%（arXiv:2609.24972）。
6. 6.

10-05　OpenAI 公布欧盟文本溯源规则落地方式：向欧盟地区 ChatGPT 与 Codex 用户逐步推出 textGrain 隐形文本水印，全球 API 客户可自愿开启；检测器向获批研究者与机构开放；官方明确水印的边界——只表明文本由 OpenAI 系统生成或处理，不能证明内容真伪、不识别用户、未检出水印不代表人类写作；官方基准显示开启水印后各项基准分数变化在波动范围内。
7. 7.

10-05/06　OpenAI Codex 与 ChatGPT Work 负责人 Tibo Sottiaux 公开承诺\"疯狂 28 天\"：每日要么发布多数用户可感知的改进，要么全额重置用户配额；此前 Codex 曾于 9 月 25–26 日、10 月 1–3 日两度宕机并进行全球配额重置。
8. 8.

10-02　OpenAI 发布 GPT-6 家族官方模型指南。
9. 9.

10-06　量子位报道 OpenAI\"疯狂 28 天\"首日动态，含 DevDay 推出的 GPT-6.1 Sol，官方称以约 Astra 五分之一的 API 定价提供接近 Astra 的编码与计算机操作表现。
10. 10.

**10-06**　华尔街见闻报道谷歌推出 Gemini Embedding 2 多模态嵌入模型。

11.

09-30　量子位报道 Manus 2.0 发布：为 Agent 配备手机号与钱包，支持拉群协作。
12. 12.

10-05　OpenAI 刊文阐述其广告业务方向（\"Building advertising for the way people use AI\"）。
13. 13.

10-01　Anthropic 宣布投入 1 亿美元训练 1 万名工程师，面向企业 AI 人才缺口。
14. 14.

09-30　Anthropic 发布巴克莱银行规模化部署 Claude 的案例。

八、开源项目与安全生态

09-28　英伟达发布\"开放智能体安全平台\"（NVIDIA Open Agent Safety Platform）：开源运行时 OpenShell 在 CPU 侧划定 Agent 执行与数据访问边界（可扩展至 Arm 与 Intel 平台），Sentry 参考设计运行于 BlueField-4 DPU，在 Agent 环境之外做带外监控并称可毫秒级隔离越界 Agent；Anthropic、微软、CrowdStrike、摩根大通等 19 家机构列为首批伙伴。安全客 09-29 中文深度稿引述 TechCrunch 汇总：公开披露的智能体越权事件一年 17 起。
2. 2.

10-05　GitHub 发布开源基准 ReviewBench，用于评测 AI 代码审查 Agent：基于对 1.039 亿真实拉取请求的分布分析选取 219 个公共 PR、覆盖 19 种语言；标注来自人工审查、前沿模型与静态分析三个来源，评分器使用 Claude Sonnet 5；资深工程师独立复标一致率 96.6%。
3. 3.

10-03　多家中文媒体报道 TypeSafe 旗下决策模型 Jev 估值传闻升至约 100 亿美元（此前一轮为 2 亿美元）；创始人 Diogo Almeida 称投资方\"排队敲门\"；Vercel 称其为公司史上采用最快的模型；汇丰分析师提示低价模型或引发类似去年 DeepSeek 时刻的市场波动。
4. 4.

10-06　量子位刊文将数学家陶哲轩归入\"AI 减速派\"，AI 安全态度光谱继续扩员。
5. 5.

10-02　量子位报道丘成桐新论文致谢 GPT 与 Claude。
6. 6.

09-30　量子位报道 Anthropic 实测称智谱 GLM-5.3 表现很强。
7. 7.

10-01　量子位报道何恺明团队新作：用 ImageNet 训练的 encoder 处理 ARC 挑战。