文章总结： 美国伊利诺伊州通过《人工智能安全措施法案》，重点监管训练算力超过10²⁶次运算的前沿模型。法案要求大型前沿开发者（年收入超5亿美元）建立安全框架，进行风险评估、第三方审计和网络安全防护，并强制披露透明度报告。安全事件需在72小时内报告，紧急情况缩短至24小时。法案旨在平衡AI创新与重大风险防范，同时提供信息保护机制以鼓励企业坦诚披露。 综合评分： 86 文章分类： 政策法规,AI安全,安全建设,技术标准,解决方案

重点监管“前沿模型”，美国伊利诺伊州通过《人工智能安全措施法案》

赛博研究院 赛博研究院

赛博研究院

2026年7月25日 10:02 上海

在小说阅读器读本章

去阅读

近日，美国伊利诺伊州通过了《人工智能安全措施法案》（Artificial Intelligence Safety Measures Act，以下简称“法案”）。法案聚焦“前沿模型”的安全治理，重点防范前沿模型可能引发的网络攻击、模型失控及权重泄露等风险。通过建立风险评估、透明披露、安全事件报告及第三方审计等治理机制，法案旨在平衡AI发展与重大安全风险的提前识别与防范。

明确前沿模型范围，重点关注高风险模型

法案先给几个关键概念划定了边界。所谓“基础模型”，指的是那些基于海量、多源数据训练而成，具备通用输出能力、能胜任多种任务的人工智能模型。在此基础上，又衍生出“前沿模型”的概念——特指训练算力超过10²⁶次整数或浮点运算的基础模型，这个计算量不只包括初始训练，也把后续微调、强化学习等重大修改过程都算在内。

监管方面，法案划出了一类重点对象，即“大型前沿开发者”。判定标准很直接：如果开发的前沿模型，且上一财年总收入（含关联企业）超过5亿美元，就属于这个范畴。之所以单独拎出来，是因为高能力模型潜在的安全风险更大，法案为此专门设计了一套有别于普通AI系统的监管规则，而不是“一刀切”对待。

法案对大型前沿开发者的具体义务做了明确规定。核心是要求这类企业建立一套“前沿人工智能框架”，用来系统性地管理、评估和降低可能出现的灾难性风险。时间线也很清楚：从2028年1月1日起，开发者必须完成该框架的制定、实施，并向社会公开。框架的内容重点落在以下几个层面：

• 风险识别与应对：开发者需要设定明确的风险阈值，用来判断前沿模型是否具备引发灾难性后果的能力，依据评估结果采取针对性的缓解措施。同时，引入第三方评估灾难性风险及风险缓解措施的有效性。
• 网络安全防护：法案提出，要采取足够的技术和管理手段，保护好尚未公开的模型权重，防止任何内部或外部人员未经授权擅自修改或转移这些核心资产。
• 内部治理优化：企业要理顺内部管理流程，确保风险评估和安全措施不是空架子，而是真正落到日常工作中。同时，还要主动审视模型在内部使用过程中的潜在风险隐患，比如是否存在模型绕过人工监督等情况。

强化模型透明度，加强第三方安全监督

除了内部风险管理，法案在透明度方面也划下了“红线”。在部署一个新的前沿模型，或者对已有模型做重大修改，开发者都得提前发布一份透明度报告。报告需要说清楚：开发者的官网地址、用户怎么联系、模型上线时间、支持哪些语言、输出形式是什么、主要用途和限制在哪。

总之，该让外界知道的“身份信息”一个都不能少。如果企业属于“大型前沿开发者”，透明度要求还会更严格。报告中必须额外写明：灾难风险评估是怎么做的、结果如何、有没有请第三方参与评估，以及为了满足安全框架要求具体采取了哪些措施。

独立审计方面，法案也给出明确的时间表和标准。自2028年1月1起，大型前沿开发者每年都要聘请第三方机构，对自身是否符合安全要求进行全面审计。能被选中的审计机构，不仅要有扎实的技术功底，还得有前沿模型安全领域的实战经验。

审计报告本身要覆盖的内容也很完整：企业是否合规、存在哪些问题、如何整改、内控情况如何，以及审计所用方法，都得一一写明。

建立安全事件报告制度，强化风险处置

关于安全事件报告，法案提出，主管部门要搭好渠道，用来收集前沿模型相关的重大安全事件信息。收集的信息至少要包括：事件发生时间、为什么认定为安全事件、事件简要情况，以及该事件是否与模型内部使用有关。

对于开发者来说，报告义务是实打实的。一旦发现重大安全事件，不能拖——法案明确给出了两条时间红线：

• 常规情况：开发者在掌握足够事实、形成合理判断后，72小时内必须向主管机构和州检察长报告，报告内容要涵盖事件时间、认定依据和简要说明。

• 紧急情况：如果事件有可能导致即将发生的死亡或严重身体伤害，时限进一步收紧到24小时，而且不仅要报主管机构，还得直接向有管辖权的执法或公共安全机构报告。

简单说，就是“发现即上报，紧急更快报”，既给了合理核实的时间，也留了应对突发危机的快速通道。

在网络安全方面，法案把模型权重安全摆在了突出位置。具体来说，凡是未经授权访问、篡改或窃取前沿模型权重，并且由此造成死亡或身体伤害的，直接划入重大安全事件范畴。

至于灾难性风险，法案重点关注的是人工智能在几个高风险场景中被滥用或失控的问题——比如辅助制造化学、生物、放射性或核武器，以及在缺乏有效人工监督的情况下实施大规模网络攻击等。可以说，这些领域的风险一旦成真，后果远不止一般的安全事故，法案对此给了一个明确的“红线清单”。

结语

值得注意的是，强化监管的另一面，法案也考虑到了企业的实际顾虑，设计了信息保护机制。一方面，对于需要对外公开披露的信息，法案允许企业对涉及商业秘密、网络安全、公共安全以及美国国家安全的内容进行必要的删减处理，不是“什么都往外掏”。

另一方面，企业向主管机构提交的安全事件报告、内部风险评估报告，以及未经删减的第三方审计报告等材料，提交至监管部门后免于信息公开。换句话说，这些敏感材料只留在监管部门手里，不会向社会公开。

这样安排的目的很明确——打消企业在报告安全事件时的后顾之忧。说到底，如果企业因为担心商业机密被泄露而畏手畏脚，该报的不敢报、该写的不敢写，那整个监管体系就失去了赖以运转的信息基础。法案用这套“保护罩”换来的，是企业更充分、更坦诚的风险披露。

文章由AI辅助生成，参考来源：美国伊利诺伊州议会、互联网公开信息

赛博研究院简介

上海赛博网络安全产业创新研究院（简称赛博研究院），是上海市级民办非企业机构，成立至今，赛博研究院秉持战略、管理和技术的综合服务模式、致力于成为面向数字经济时代的战略科技智库、服务数据要素市场的专业咨询机构和汇聚数智安全技术的协同创新平台。

赛博研究院立足上海服务全国，是包括上海市委网信办、上海市通管局、上海市经信委、上海市数据局等单位的专业支撑机构，同时承担上海人工智能产业安全专家委员会秘书长单位、上海“浦江护航”数据安全工作委员会秘书长单位、上海数据安全协同创新实验室发起单位等重要功能，并组织“浦江护航”数据安全上海论坛、世界人工智能大会安全高端对话等一系列重要专业会议。

欢迎联络咨询：

邮件：[email protected]；

电话：021-61432693。

免责声明：

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。

任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。

本文转载自：赛博研究院 赛博研究院 赛博研究院《重点监管“前沿模型”，美国伊利诺伊州通过《人工智能安全措施法案》》