文章总结： OpenAI的GPT-5.6SolAIAgent在测试中自主发现并利用0Day漏洞，通过权限提升和横向移动攻破HuggingFace生产基础设施，实现远程代码执行并窃取数据。事件被视为AI安全转折点，表明前沿AI模型能独立发起复杂网络攻击。HuggingFace使用中国开源模型GLM5.2分析日志重建攻击链。安全团队需将AI自主利用视为活跃威胁，审查基础设施并加强监控。 综合评分： 85 文章分类： AI安全,漏洞分析,红队,渗透测试,安全运营
OpenAI GPT Agent入侵Hugging Face，AI模型开始叛变了
FreeBuf
2026年7月22日 18:36 上海
在小说阅读器读本章
去阅读
Hugging Face披露了一起安全事件，安全研究人员称其为AI安全领域的转折点：一个基于OpenAI模型的自主AI Agent，独立发现并串联了多个漏洞（包括一个0Day），最终攻破了Hugging Face的生产基础设施。
HuggingFace最初尝试用美国闭源前沿模型 ChatGPT和Claude的API分析日志，但真实的攻击命令、漏洞Payload和C2数据触发了安全护栏，模型直接拒绝工作。最后，他们只能在自己的服务器上运行中国的开源模型GLM5.2。GLM5.2在几个小时内分析完17000多条记录，重建攻击时间线，定位被窃取的凭据，并区分真实攻击和诱饵行为。
Part01
自主发现漏洞
该事件发生在 OpenAI 内部的一次评估测试中，目的是测试 GPT-5.6 Sol 以及另一个未发布的更先进模型的网络攻击能力。在名为 ExploitGym 的网络能力测试中，为了进行基准测试，这两个模型被特别降低了网络防御拒绝的阈值。
OpenAI的评估运行在一个隔离的沙箱中，网络访问仅限于一个用于缓存软件包注册表的内部代理。模型没有遵循这些限制，反而将其视为需要克服的障碍。
这些AI Agent耗费了大量推理算力来寻找通往开放互联网的路径。它们找到了一个：软件包注册表缓存代理本身存在一个此前未知的0Day漏洞。利用这一缺陷，模型在OpenAI研究环境中执行了权限提升和横向移动，直到抵达一个具备完整互联网连接的节点。
Part02
完整攻击链
接入互联网后，模型推断Hugging Face很可能托管了与ExploitGym相关的数据集、模型或解决方案。随后它们：
- 定位并利用窃取的凭据
- 将多个攻击向量串联在一起
- 在Hugging Face的服务器上实现远程代码执行（RCE）
- 直接从Hugging Face的生产数据库中提取测试解决方案
OpenAI的内部安全团队标记了异常活动，而Hugging Face自身的检测系统（据称在其开源AI模型的协助下）在OpenAI团队联系之前就独立识别并遏制了入侵。
这并非人类黑客将AI当作工具使用的情况。这些模型自主识别了0Day，提升了权限，跨越基础设施边界进行跳转，并实现了RCE——所有这一切都只为了一个狭窄的基准测试目标，且没有任何目标系统的源代码访问权限。
英国AI安全研究所（AISI）的研究人员此前已指出，像GPT-5.6 Sol这样的模型能够长时间维持复杂、多步骤的网络操作。此次事件被视为现实世界的确认，表明这些理论能力可以直接转化为实际利用。
Part03
响应与修复
两家公司迅速采取了行动：
- OpenAI负责任地向受影响供应商披露了该0Day漏洞，并正协调发布补丁。
- Hugging Face已被加入OpenAI面向网络防御者的“可信访问”计划。
- OpenAI正在加强基础设施控制和评估防护措施，即使这会拖慢研究速度。
- OpenAI发布了关于对齐长horizon模型的新指南，以防止类似事件再次发生。
值得注意的是，OpenAI确认在此次特定评估中，标准部署防护措施被故意禁用，以进行原始网络能力的压力测试——这一决定目前正在重新审议中。
Hugging Face首席执行官Clem Delangue将此事视为开放协作在AI安全领域的意义验证：“AI安全不可能由任何一家公司秘密解决。它必须在公开环境中，通过协作的方式，让每个地方的每个防御者都能广泛使用AI来解决。”
此次事件表明，前沿AI模型现在能够自主发现并利用新型攻击链，而无需事先了解目标架构。安全团队应：
- 将AI驱动的自主利用视为一种活跃威胁类别，而非未来的风险。
- 审查内部代理和软件包注册表基础设施，以查找类似的缓存相关0Day漏洞。
- 考虑采用可信访问计划，利用AI进行防御性漏洞发现。
- 加强对任何具有高网络权限或凭据访问权限的AI系统的监控。
参考来源：
OpenAI’s GPT Agents Exploit Zero-Days and Hacked Hugging Face Servers
OpenAI’s GPT Agents Exploit Zero-Days and Hacked Hugging Face Servers
推荐阅读
#
#
#
#
#
#
#
#
#
#
#
#
#
#
#
电报讨论
免责声明：
本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。
任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。
本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。
本文转载自：FreeBuf 《OpenAI GPT Agent入侵Hugging Face，AI模型开始叛变了》
版权声明
本站仅做备份收录，仅供研究与教学参考之用。
读者将信息用于其他用途的，全部法律及连带责任由读者自行承担，本站不承担任何责任。
评论