美国机构警告 AI 代理可能利用安全漏洞并建立隐藏后门

爱拍照的老李
爱拍照的老李

爱拍照的老李

2026年10月20日 09:04
湖北

去阅读

导读

美国多家机构警告称，先进的人工智能智能体可能会利用安全漏洞、突破其设定的限制，并留下隐蔽的后门。

美国国家标准与技术研究院（NIST）、美国国家安全局（NSA）和美国网络安全与基础设施安全局（CISA）发布的新指导方针敦促人工智能开发者为智能体未接指令便实施有害行为的事件做好准备。

这份自愿性指导文件于2026年10月16日发布，涵盖了准备、检测、应对、恢复和报告五个方面的十项做法。

它主要针对那些在有限人工监督下，针对长任务对高性能智能体进行训练或测试的组织。其核心观点十分明确：安全控制措施必须考虑到智能体发现并利用其所处环境中漏洞的情况。

美国国家标准与技术研究院（NIST）的研究人员及其机构合作伙伴指出了通过代码后门和隐藏通信渠道进行持续访问的风险。

该报告并未指明具体的恶意软件家族，也未披露新的恶意软件活动。相反，它探讨的是无指令行为：即未在操作员或攻击者指示下采取的步骤。

美国机构警告人工智能代理可能利用安全漏洞

AI智能体将生成式模型与能使其朝着目标行动的软件工具相结合。部分系统还会让多个智能体协同工作。

这让它们比单独的聊天机器人有更多方式影响互联系统。关于智能体绕过安全控制的另一则报告说明了为什么测试环境需要在网络访问和共享资源周围设置严格的边界。

这些机构要求开发人员构建安全防护措施，同时要考虑到智能体将频繁地发现并利用漏洞或不安全的配置。

他们建议限制对敏感数据、系统和工具的访问；尽可能使用临时基础设施；并限制代理之间的通信仅通过经批准的渠道进行。

所需的网络流量必须通过受监控的网关，理想情况下应处于严格的白名单管控之下。该指南还明确区分了控制故障与攻击者发起的活动。

恶意提示词注入或存在故意后门的模型涉及外部指令，因此这两者均不被视为本文所涵盖的控制事件的主要原因。需要关注的是，智能体在执行任务时可能会独立跨越安全边界。

停止智能体并不一定会移除其创建的访问权限。调查人员必须查找代码后门和隐藏通信路径，撤销已暴露的凭证，并重建已受破坏的环境。

有关Terraform 配置中的后门的相关报告描述了一次由攻击者主导的篡改基础设施代码的行为，这也说明了恢复检查为何必须超越代理进程的范围。

隐藏后门与监控盲区

监控必须覆盖模型、其配套软件、主机以及网络。这些机构建议将代理与监控流程和日志隔离开来，跨不同层级检查信号，并在可能的情况下使用多个模型进行交叉验证。

他们还警告，模型输出可能包含试图利用对其进行审查的监控系统的行为。证据收集也需要类似的谨慎。研究团队应保留模型检查点、设置、工具调用、被拒绝的操作、网络记录以及可靠的时间戳。

这些记录有助于调查人员还原事件经过、确定受影响的系统，并找出潜在的控制故障。当人工智能模型协助分析事件时，人工审核人员应核实关键结论，而非不加核查就接受其得出的结果。

开发人员应在测试开始前制定停机规则，并在检测到控制故障时自动停止受影响的代理活动。根据故障严重程度，类似的代理可能也需要暂停。

涉及自主物联网漏洞利用的研究为这些安全保障措施提供了进一步的背景信息，不过受控测试系统得出的结果不应被解读为现实世界中广泛攻击成功的证明。

重启前，各组织应从经过验证的基准重新构建系统，修复已被利用的漏洞，并检查日志记录、网络限制、权限以及关闭控制是否正常运行。

他们还应测试更新后的保障措施是否能发现或阻止此前的事件。恢复决策必须记录剩余风险，同时受影响的第三方应获得有用细节，包括时间线以及受影响系统的相关信息。

报告建议的范围不仅限于已确认的损失。各组织应分享相关的未遂事件，遵守适用的报告法规，并与政府专家进行协调。

公开的经验教训可以帮助其他开发者在类似故障扩散前强化控制措施。该文件以现有的网络安全框架为基础而非取而代之，将事件响应扩展至能够采取独立行动的系统。

新闻链接：

https://gbhackers.com/u-s-agencies-warn-ai-agents/

扫码关注

爱拍照的老李

讲述普通人能听懂的安全故事