英国启动AI安全新计划：以“前沿AI”打造全球最难攻破国家

FreeBuf

2026年10月18日 18:00
上海

去阅读

2026年10月12日，英国人工智能大臣卡尼什卡·纳拉扬在伦敦帝国理工学院发表演讲，公布了一系列AI安全计划。

英国政府准备把前沿模型用于政府系统的漏洞排查，同时研究智能体事故的处置办法，并考虑通过《网络安全与韧性法案》补充相关制度。模型发布前的安全测试、本土算力和AI硬件能力，也被纳入这轮政策安排。

纳拉扬在演讲中没有回避一个严峻判断：随着AI不断降低网络攻击的技术门槛，英国现有防线遭到突破几乎难以避免。既然攻击者能够利用AI扩大攻击规模，防守方也必须用同样的技术寻找漏洞、分析威胁和缩短修复时间。

英国由此提出了一个颇具进攻性的目标：成为全球最难遭到AI攻击的国家之一。

Part01

前沿模型开始检查政府系统

英国政府已经在内部测试AI的漏洞发现能力。

官方披露，两项试点共协助识别和处理了1000多个潜在漏洞及其他公共服务安全威胁。中央漏洞监测服务投入运行后，部分已识别问题的平均修复时间由50天缩短到8天。

其中一项测试由英国政府网络安全协调中心组织，参与者对9个政府机构的公开代码仓库进行了集中审查。一个月内，项目共形成407项安全发现，模型调用费用约为1.3万英镑。

这些问题涉及身份验证绕过、数据暴露和远程代码执行。英国政府称，经过确认的严重漏洞已经完成修复，没有发现它们曾被攻击者利用的证据。

项目没有采用单一的扫描方式。部分团队将任务拆分成多个步骤，让不同智能体分别承担初步筛查、结果验证、代码审计、攻击路径追踪和结论复核。另一些团队先使用传统扫描工具获得线索，再由模型结合代码上下文和业务逻辑进行分析。

其中一个问题出现在GitHub Actions工作流中。外部用户可能通过经过特殊设计的评论触发自动化任务，并在工作流运行环境中执行代码。如果攻击成功，工作流使用的令牌和其他敏感信息可能随之暴露，代码仓库也可能受到进一步影响。

此类问题往往横跨代码、配置和自动化流程，单纯依赖规则匹配不一定能够完整呈现攻击路径。模型在阅读上下文和串联分散线索方面表现出了一定优势。

不过，试点团队也发现，AI很容易生成大量待确认结果。缺少范围控制和人工筛选时，误报会迅速占用安全人员的时间。模型负责提高检查速度，漏洞是否成立、能否被利用以及应该如何修复，依然要由专业人员作出判断。

英国政府计划推进下一阶段试点，增加参与部门和模型数量，并把检查范围从公开代码扩展到内部闭源系统。

Part02

AI既是防守工具，也会制造新事故

英国此次加码AI防御，与近年出现的智能体异常行为有关。

纳拉扬在演讲中提到，一名OpenAI智能体此前受命查找澳大利亚政府的药品支出信息。它在遇到网站访问限制后，选择了其他路径，并接触到未获授权的信息。

这项任务原本合法，也没有要求智能体突破访问控制。问题出在执行过程中：系统为了完成目标，自行扩大了行动范围。

澳大利亚方面表示，没有证据显示个人医疗记录遭到读取，也没有发现更广泛的系统失陷。英国政府仍将此事视作警告，因为未来的智能体会拥有更多工具、更高权限，并被接入更多真实业务系统。

传统自动化软件通常按照预先设定的流程运行，智能体则可能根据环境变化自行调整步骤。当多个系统、数据库和外部工具同时向它开放后，一个小小的判断偏差就可能沿着调用链迅速扩散。

事故发生后，调查人员不能只检查服务器是否遭到攻击，还要还原智能体收到的任务、调用过的工具、访问过的数据以及每一步操作的原因。这类工作需要新的日志规范、取证方法和责任划分。

英国国家网络安全中心与人工智能安全研究所将共同研究智能体事件的处置机制，重点包括如何限制异常行为继续扩散、如何帮助受影响机构恢复，以及如何防止同类问题再次出现。

Part03

严重事件和“差点出事”

都可能需要上报

英国政府准备借助《网络安全与韧性法案》完善AI安全制度。

讨论范围包括AI驱动的网络攻击、自主系统脱离监督，以及严重AI事件和未遂事件的识别与报告。医院、能源、通信等关键服务可能成为重点保护对象。

“未遂事件”被单独提出并不意外。智能体发生异常后，即使没有造成实际损失，也可能暴露出权限配置、监督机制或系统设计上的缺口。如果所有问题都等到事故造成后果才进入调查，监管机构很难提前发现共性风险。

相关要求尚未定稿。哪些机构承担报告义务、什么情况需要上报、事故信息交给谁处理，都需要英国政府与议会、技术专家和基础设施运营方继续商议。

纳拉扬还把网络安全责任推向了企业管理层。在他看来，AI和网络风险不应只是安全部门或中层管理人员的话题，董事会需要直接参与。对于前沿模型开发企业，政府的态度同样明确：研究人员发现严重危险时，公司应当调查异常行为；风险无法得到控制时，不应匆忙发布产品。

Part04

英国重新争取模型发布前的测试权

人工智能安全研究所是英国AI安全计划中的重要执行机构。该机构拥有超过100名技术人员，负责研究先进模型的能力、行为和潜在风险。

纳拉扬确认，研究所正在对新一代模型开展评估，其中包括“Gemini 4 Argon”。测试工作希望在模型正式发布前识别危险能力，并检查开发者设置的安全措施是否可靠。

获得测试机会本身并不容易。全球领先的前沿模型大多由海外公司开发，英国能否提前接触模型，既要与开发企业协商，也可能受到美国技术政策和出口限制影响。

英国近期与美国政府及多家模型公司沟通，希望人工智能安全研究所继续保有发布前评估权限。英国还计划研究硬件辅助验证，借助本国在半导体设计方面的经验，为模型训练、评估和运行过程提供更容易核验的技术证据。

这项工作仍处在早期阶段。它所对应的问题却很现实：如果政府只能在模型公开后进行外部测试，就很难看清开发阶段发生过什么，也无法完全验证企业关于安全措施的说明。

Part05

对海外技术的依赖

被纳入国家安全议题

演讲后半部分，纳拉扬把话题转向了英国自身的技术能力。

当前许多先进模型、云平台和计算基础设施由海外企业掌握。英国可以使用这些技术，却不一定拥有足够的检查权、控制权和替代方案。合作关系或出口政策一旦发生变化，公共服务、产业发展和安全研究都可能受到影响。

英国政府准备通过“主权人工智能计划”和“人工智能硬件计划”扶持本土能力。政策方向并不是排斥国际公司，而是在吸引投资的同时，保留模型研发、安全评估、算力基础设施和芯片设计方面的自主空间。

英国曾在个人计算和半导体产业中较早取得优势，也培育出了Arm这样的芯片设计企业。但早期领先并没有让英国始终掌握产业发展的主导权。纳拉扬借这段历史说明，仅仅参与新一轮技术浪潮还不够，国家还要保留理解、验证和影响关键技术的能力。

当AI逐渐进入政府、医疗、能源和通信系统后，技术依赖不再只是成本或供应链问题。一个国家能否检查所使用的模型，事故发生后能否独立调查，外部供应中断时能否找到替代方案，都会影响公共安全。

Part06

计划已经公布，难题还在后面

英国这轮AI安全计划覆盖了漏洞检测、模型测试、事故响应、法律调整和产业能力建设，范围相当广。不过，不少内容仍停留在试点或政策研究阶段。

政府公布的漏洞数据需要结合统计范围理解。超过1000个潜在问题来自两项试点，407项安全发现则出自其中一次针对公开代码仓库的集中审查。公开资料尚不能精确区分模型、传统工具和人工专家各自发挥了多大作用。

智能体事故报告机制也需要继续细化。模型开发商、云服务商和实际部署机构如何分担责任，将直接影响制度能否执行。模型发布前测试则依赖开发企业配合和国际合作，英国能否长期稳定获得评估权限，仍存在不确定性。

英国已经决定把前沿AI放进网络防御体系，同时也在为AI自身可能引发的事故准备新的安全规则。

一边用AI寻找漏洞，一边限制AI越过权限；一边争取使用全球最先进的模型，一边补足本土技术能力。英国正在处理的，正是各国接下来都会面对的矛盾：既不能放弃AI带来的效率，也不能把关键系统的控制权交给一个无法充分理解和约束的技术体系。

参考来源：

UK Government. Building a Safer, More Secure Britain in the age of AI

https://www.gov.uk/government/speeches/building-a-safer-more-secure-britain-in-the-age-of-ai

推荐阅读

电报讨论