2026-11-09 01:12:45 网络安全文章来源：ZONE.CI 全球网 0 阅读模式

AI安全情报这么散，有人把87部法规、29起事件、4个榜单装进了一个免费网站

FreeBuf

2026年11月6日 18:00
上海

去阅读

做AI安全和合规的同行，大概都有类似的感受，最磨人的往往不是分析本身，而是信息太多太散：

法规很难跟全。欧盟《人工智能法》分阶段适用，又被《数字综合简化法案》修正；国内的标识办法、生成式 AI 三项国标、拟人化互动服务办法相继施行；美国那边立法主要在州，一年七八部。
事件真假难辨。同一个智能体安全事件，一天能刷到十几篇转载，原始披露在哪、细节有没有官方确认，往往得自己去翻。
评测各说各话。越狱、幻觉、过度拒答、漏洞检测、漏洞复现，各家评测口径不同、覆盖的模型也不一样，单看一家很容易得出片面结论。

信息其实不难找，难的是把它整理成能直接用来做判断的样子。

AISecSight（https://aisecsight.com）想解的，就是这道题。它的思路很简单：把“找信息”交给系统，把“判断”留给人。

查法规与标准、看 AI 安全动态、评 AI 模型安全，一个网站都能搞定。每条数据都附原始出处，能回溯到官方原文，方法和信源状态也全部公开，用户可以自己核对。全中文、免费、免注册，还支持电脑、手机双端，随时随地都可以进行查询分析。

它更接近一本随时可翻的底账，而不是一个不断给你推新消息的资讯流。

图 1　首页：过去 24 小时的 AI 安全热点、四个榜单的前 3 名，以及按法域分布的法规地图。

合规最贵的错误

是引用了一条已经变了的法规

写合规意见的人，都有一个共同的担忧：引用的那份文件，状态已经变了。

而AISecSight的一大特点，就是把每部法规的状态盯住。目前收录了87 部（其中 AI 专门 79 部）法规与标准，覆盖 11 个国家和地区，另有 2 部已失效或搁置的保留备查。其中美国 25 部，中国 28 部，欧盟 11 部。

收录边界也写得非常清楚：只收正式发布的法律、法规、规章、政策与行政令，征求意见稿一律不收，中国收到省级，美国收到州级。

在AI场景中被直接援引的数据与网络安全基础法，例如 GDPR、《个人信息保护法》，卡片上标为“相关基础法”。

NIST AI RMF、OWASP LLM / Agentic Top 10 这类能直接拿去做合规或安全实践的框架与指南，以及政府间组织通过的条约、决议、宣言与原则，也在收录范围内。

每部法规都有独立页面，列出状态、生效日期、主管机关、核心要点、关键日期、官方原文链接、关联法规和近 90 天的相关报道，并注明人工核对日期。这行日期就是用来防止，出现引用时文件状态发生了变化的情况。

图 2　单部法规页（aisecsight.com/law/euact）：状态、主管机关、核对日期、核心要点与关键日期一页看完。

做海外合规评估，业务方问时长关心的第一个问题，从来不是“要做什么”，而是“罚多少”。

AISecSight 把 29 部现行法规的 103 档罚则逐条整理了出来：什么行为、怎么罚、上限多少、谁来执法，每一档都附条款号和官方原文引文。

图 3 最高罚款对比只比固定金额上限，仅供量级参考；按营业额比例计罚时，实际金额可能远高于固定上限。

还有个细节需要注意，欧盟《人工智能法》的罚则是分档的，违反第 5 条禁止性实践最高 7%，违反提供者、部署者义务或第 50 条透明度义务最高 3%，向监管机构提供不实信息最高 1%。处罚页上每一行就是一档罚则，点开能看到条款原文、个人责任和执法机构。

把中、美、欧 AI 强相关的法规和标准按“正式发布或修订的年份”计数，2021–2026 年一共 56 次，有三个很明显的规律：

中国 2025 年最密集。一年 10 次。生成合成内容标识办法和强制性国标、生成式 AI 三项安全国标、《网络安全法》修正新增 AI 条款，都集中在这一年。
美国的立法主要在州。联邦层面以行政令和 NIST 框架为主；算上各州之后，2024–2026 年分别是 7、8、9 次。
欧盟以《人工智能法》为主轴。法律本身之后，是一连串委员会指南和行为准则，把条文落到可以执行的层面。

图 4　每部法规或标准按正式发布年份计 1 次，之后每次修订或新版本再计 1 次；草案、讨论稿、立法计划不计。

29起大事记

趋势比单条新闻更值得看

AISecSight 每天的安全新闻保留90天，“AI 安全大事记”则只收经得起时间检验的事件。收录标准满足任意一条即可：造成实际损失或影响面大；首次出现的攻击方式；有厂商、政府或研究机构的一手来源；引发监管或行业反应。

跑分、产品发布和研究论文不收，尚待官方确认的细节，会在卡片上单独注明。

图 5　29 起事件按类别和发生年份分布。

标准听着保守。可29起事件摆到一起，趋势很明显：

AI安全事件的数量在加速：2023 年 3 起，2024 年 6 起，2025 年 8 起，2026 年截至 10 月已有 12 起。
智能体失控是 2026 年的新主角：5 起“智能体失控”里有 4 起发生在 2026 年。OpenClaw 智能体无视“停止”指令，删除了 Meta 对齐负责人的 200 多封邮件；Hugging Face 被一个自主 AI 智能体入侵。

前沿模型在评测中越界、攻击真实系统，已经不是个例。
3. AI 用于攻击开始落地到普通犯罪：从 2024 年微软与 OpenAI 首次披露国家级黑客用大模型辅助攻击，到 2025 年 Anthropic 披露首个大规模 AI 主导的网络间谍活动，再到 2026 年 10 月首尔警方逮捕一名没有 IT 背景的嫌疑人：他借助 AI 编程智能体和自动渗透工具攻破 60 家企业，窃取 820 万条个人信息。

攻击的门槛在往下掉。而防守的门槛，在往上抬。
4. 供应链风险转向 AI 生态：Hugging Face 恶意模型、Ray 框架遭在野攻击（ShadowRay）、首个在野恶意 MCP 服务器 postmark-mcp、ClawHub 上 341 个恶意技能、AI 网关 LiteLLM 的 PyPI 包被投毒。

攻击面正在从模型本身，扩展到 MCP 服务器、Skill 市场和 AI 网关这些“胶水层”。

每起事件都有独立页面，附一手来源，并关联到对应的风险清单或法规，以及同类事件。

一条事件读完，你能顺着链接走到它的规则依据、它的同族样本。这比读完十篇转载，更接近“看懂”。

图 6　EchoLeak（CVE-2025-32711）：Microsoft 365 Copilot 的零点击提示注入。页面关联 OWASP LLM/GenAI 十大安全风险，并列出同类事件 Slack AI 间接提示注入。

62个信源，采集去重打分全公开

动态部分分三个视图：AI 治理动态（政策、监管、立法、标准）；AI 安全动态（漏洞与事件、智能体安全、越狱与对抗、红队与评估等）；AI 安全白皮书。

信源共 62 个，从官方渠道，厂商与机构的安全博客，到安全媒体，以及 AIHOT 精选和 CyberGym 榜单，全维度覆盖。

采集进程每分钟调度一次到期的信源。每个源按近 7 天的实际产出，自动调整抓取间隔。出得多就勤一点，出得少就慢一点。

对没有变化的源，用条件请求直接拿一个 304 就走，不再重复拉正文。对失败的源按连续失败次数退避，5 次以上及标注“失联”。

这些状态全部公开在“源健康”页面上，包括哪些源停更、哪些源陈旧，方便用户参考判定。

图 7　每个信源的抓取间隔、上次结果、近 7 天新增一目了然；停更、陈旧的源会被置顶，不隐藏问题。

在去重与打分方面，AISecSight也花费了一番功夫，同事件只留一条并优先官方原文，48 小时内有 3 家以上跟进标“↑ 上升”；每条标信源级别，官方、机构、媒体，门槛依次提高。

只收与 AI 相关的条目，通用漏洞新闻不会进 AI 安全动态；首页的“今日看点”另设一道 AI 相关性过滤。再按关键词自动标类型与严重度，并关联到法规库里的对应法规。

图 8　每条动态标注来源、信源级别、类型、严重度和推荐度，海外内容附机器翻译，并保留原文标题。

每周一早上8点半，系统会自动汇总上一周的重要动态、法规相关报道、待复核的法规和榜单名次变化，生成“每周要点”，也可以通过 RSS 订阅。

不自己出题，只把公开成绩排好

模型安全榜，是AISecSight花费时间最多的部分。平台不自己出题，只汇总多家公开评测的真实成绩。难点在于各家评测覆盖的模型不同、指标方向不同、误差也不同，直接把分数求平均，得到的是一堆没法解释的数值。

图 9　模型安全榜：8 项评测、6 家机构、273 个模型；每个模型标出评测证据数、名次区间和覆盖率。

AISecSight参照 AIHOT 排行榜的“共识排序”，核心是四步：

一是两两比较。同一指标上，两个模型都有成绩才比一次，“越低越好”的指标先把方向翻过来。双方都给了标准误，就用软比较：差距远小于误差视为打平，远大于误差才算赢。没有误差数据，就硬碰硬，谁高谁加一分。每次比较的结果按指标权重累加，缺测的模型不参与这一项，不会被硬算成 0 分。

二是共识名次（Kemeny 排序）。在所有可能的排序里，找出与全部加权两两比较冲突最少的那一个。精确求解是 NP 难的，团队用局部搜索近似：反复把一个模型取出、插回最优位置，直到无法再改进。

三是共识指数。模型在全部共同评测里、按权重计的获胜份额乘以100，再沿名次做保序回归。所以它表示“在共同评测上赢了多少对手”，不是绝对分数；相邻几名指数相同，说明现有证据还拉不开差距。

最见功夫的是第四步，稳定性检验。分别剔除每一个来源，把每个来源的权重调低或调高 20%，再把所有比较都改成硬碰硬，每种情形各重排一次，得到每个模型的名次区间。区间跨度达到榜单人数的 10%，至少 3 名，就标“证据敏感”。

不过这个名次依赖个别来源或权重选择，别当铁律用。

另外还设了两条入榜门槛：至少 2 家不同来源有成绩，并且有成绩的指标权重合计不低于 30%，避免只有一两项冷门评测的模型排到前面。

模型安全榜的维度和权重是：越狱与有害内容 52%、诚实与幻觉 33%、过度拒答 10%、偏见 5%。截至 10 月 30 日，综合榜前三是 Claude Haiku 5.5、GPT-6 Luna、GPT-6 Sol，共识指数都是 78.8。

除此之外还有三个榜单，区分的事模型的另一类能力：

模型防御能力榜（23 个模型）：漏洞检测、漏洞修复、SOC 告警调查、安全代码生成；
模型攻击能力榜（21 个模型）：漏洞复现、漏洞利用与 CTF；
智能体攻击能力榜：基于 CyberGym 智能体赛道，比较整个智能体系统（自研框架 + 基座模型）在 188 个开源项目、1507 个历史漏洞上复现漏洞、写出 PoC 的能力。

分开排名是因为攻击能力强意味着被滥用的风险更高，不代表模型更安全。把几个榜混成一个“安全总分”，是这个领域最常见的误读。

把同一份数据，交给Agent去查

越来越多的同行开始用 Agent 做合规检索和情报汇总，AISecSight 索性把同一份数据开放给了 Agent：全部匿名只读，不需要注册，也不需要 API Key。

/api/v1/agent，是写给 Agent 看的说明书，Markdown 格式，按问题类型列出该请求哪个地址、回答时要注意什么。

/api/v1/skill，是一份开放格式的 SKILL.md。装进支持 Skill 的 Agent 之后，遇到 AI 法规和安全问题会自动来查。

/llms.txt，是站点结构与接口索引。

主要接口有六个：/api/v1/laws 法规检索、/api/v1/penalties 罚则、/api/v1/incidents 事件、/api/v1/qa 合规问答、/api/v1/news 动态、/api/v1/weekly 每周要点。

RSS 也留了口子：治理动态、安全动态、法规复核提醒、每周要点，以及每部法规单独的相关动态，路径是 /rss/law/.xml。

最简单的用法，是把一句话丢给 Claude、ChatGPT、Kimi，或者 Claude Code、Codex 这类编程工具。