在OpenAI智能体攻击HuggingFace之后,科技巨头联手推崇开源人工智能模型"

admin 2026-10-23 07:40:32 网络安全文章 来源:ZONE.CI 全球网 0 阅读模式

cover_image

在OpenAI 智能体攻击 Hugging Face 之后,科技巨头联手推崇开源人工智能模型

爱拍照的老李
爱拍照的老李

爱拍照的老李

2026年7月28日 09:00
湖北

在小说阅读器读本章

去阅读

导读

开放安全人工智能联盟表示,Hugging Face/OpenAI事件证明前沿实验室不能被信任来正确保护敏感系统。

在 OpenAI 智能体攻击 Hugging Face 之后,英伟达招募了一批新的合作伙伴,推动开源模型成为行业所需的安全解决方案。这家人工智能领域的“军火商”今日在一篇博客文章(https://blogs.nvidia.com/blog/open-secure-ai-alliance/)中宣布成立名为“开放安全人工智能联盟”的组织,并称该组织的使命是“确保各地的防御者都能拥有可信赖、可掌控的前沿开源工具”。

该联盟的合作伙伴数量众多,既有微软、红帽、HPE、IBM、Adobe等老牌科技巨头,也有Palantir、SpaceX AI、Hugging Face、Linux 基金会等新兴机构。英伟达表示,所有创始成员的共同之处在于,他们一致认为开源人工智能模型是现代网络安全的核心组成部分,就像此前的开源技术在网络安全领域一直发挥着重要作用一样。

英伟达在声明中表示:“美国及其合作伙伴如今在人工智能安全领域面临一个选择:保护我们基础设施的防御措施,是仅存在于少数不透明系统中,还是建立在开放的模型、工具和系统之上——让任何防御者都能对其进行研究、调整和部署。”

这些说法在很多方面与上周科技行业巨头在一封致美国政府监管机构的公开信中提出的申诉相呼应。这封由开放源AI安全联盟(OSAA)创始核心成员中的多家公司共同签署的信,核心主张是监管机构应确保Anthropic、谷歌和开放AI公司不会最终完全掌控美国人工智能市场,同时开源权重模型也应获得参与讨论的机会。

这个新联盟认为,美国不仅需要允许开源模型大量普及,还应将其视为安全体系中不可或缺的一部分。

对于不了解Hugging Face 事件的人来说,有一组自主运行的 OpenAI 智能体,它们在沙箱中运行且被移除了安全护栏,以测试其解决网络安全谜题的全部能力。这些智能体利用一对零日漏洞逃脱并接入了互联网。

出于某种原因,这些智能体认为它们所面临问题的解决方案能在 Hugging Face 的系统中找到,于是它们入侵了该平台,获取了大量私人信息并劫持了部分凭证。

当 Hugging Face 求助于美国闭源前沿人工智能实验室的工具来调查这一事件并查明真相时,这些工具拒绝提供帮助,因为它们认为 Hugging Face 想要核查的数据本身具有恶意性。Hugging Face 转而求助于部署在其自有基础设施上的中国产 GLM 5.2 来查明情况。

英伟达表示:“这一事件揭示了一个实际道理。当防御方无法在自身基础设施上自主检查、调整并运行先进人工智能时,他们的应对能力会在速度最为关键的时刻受到限制。”

开源AI模型是中国主导研发的,只有这类模型才能承担这一角色,开源安全联盟(OSAA)如此认为。该组织还准备反驳那些称开源模型是威胁的人:看看上周发生的事就一目了然了,闭源模型同样存在风险。

该联盟正整合各方力量,让安全专业人士能够使用必要的开源工具。英伟达表示,其将通过在GitHub上发布面向对象的智能体项目参与其中;慧与(HPE)贡献了其SPIFFE/SPIRE零信任人工智能身份框架;Hugging Face已将其Safetensors透明人工智能模型权重格式移交至PyTorch基金会;而太空探索技术公司人工智能部门(SpaceXAI)则开源了Grok Build。

此外,IBM 和红帽公司发布了Lightwell——一个自动化开源漏洞修复平台,而微软则推出了MDASH——一个用于自动化漏洞发现与修复的多模型智能体扫描工具。英伟达表示,这些项目虽非开源本身,但仍是联盟成员“正在构建开源防御栈”的一个信号。

开放源人工智能安全联盟(OSAA)在声明的结尾再次呼吁政策制定者不要简单地禁止开源人工智能模型,该组织表示,这样做“会削弱防御能力,且可能使防御能力、依赖性和脆弱性集中在少数封闭的提供商手中”。

正如我们上周所看到的,许多供应商更关心的是保护自身,而非帮助自主网络攻击的受害者快速做出应对。

Hugging Face 联合创始人兼首席执行官克莱门特·德朗格(Clement Delangue)在 X 平台的一篇帖子中表示,他上周末与 OpenAI 就上周的事件进行了沟通,并要求该公司提供资金,以支持开发更完善的开源人工智能网络防御系统。

目前尚不清楚该公司是否计划满足这一要求;它并非英伟达主导的开源人工智能安全联盟(OSAA)的创始成员。就此而言,谷歌和 Anthropic 也不是。

新闻链接:

https://www.theregister.com/ai-and-ml/2026/07/27/tech-giants-link-hands-to-praise-open-ai-models-after-openai-hugging-face-attack/5279061

扫码关注

爱拍照的老李

讲述普通人能听懂的安全故事


在OpenAI智能体攻击HuggingFace之后,科技巨头联手推崇开源人工智能模型" 网络安全文章

在OpenAI智能体攻击HuggingFace之后,科技巨头联手推崇开源人工智能模型"

OpenAI智能体攻击HuggingFace事件暴露闭源AI模型在安全响应中的局限性。英伟达联合微软、IBM等成立开放安全人工智能联盟(OSAA),主张开源AI模型是网络安全核心,可被防御者研究、调整和部署。联盟贡献了多项开源工具,并呼吁政策制定者不要禁止开源模型,以避免防御能力集中在少数封闭提供商手中。
伊朗黑客在美国关键基础设施中利用罗克韦尔、施耐德和西门子可编程逻辑控制器" 网络安全文章

伊朗黑客在美国关键基础设施中利用罗克韦尔、施耐德和西门子可编程逻辑控制器"

伊朗关联APT组织正利用暴露在互联网的罗克韦尔、施耐德和西门子PLC攻击美国关键基础设施。攻击者通过工业协议端口和SSH访问设备,篡改项目文件并注入保留合法梯形逻辑的恶意指令以隐蔽修改安全参数,导致业务中断。同时利用DropbearSSH维持持久访问。建议组织立即限制PLC互联网暴露,实施网络分段,并严密监控控制逻辑的未授权更改。
WebSocket实战:基于协议特点的漏洞挖掘" 网络安全文章

WebSocket实战:基于协议特点的漏洞挖掘"

本文系统介绍了WebSocket协议在渗透测试中的漏洞挖掘实战,重点分析了权限相关漏洞(如越权登录、越权操作)、并发类漏洞及信息泄露问题。文章指出WebSocket服务常使用protobuf传输,鉴权方式包括握手即鉴权和连接后鉴权。关键发现包括通过修改userKey实现越权登录、利用多连接或单连接并发发送消息实现并发攻击。可操作建议包括使用自定义工具测试WebSocket服务、注意查找前端代码(如zip包)和利用AI辅助分析。
摄像头变“狙击镜”?深扒北约及乌克兰IPCamera被控的技术内幕!" 网络安全文章

摄像头变“狙击镜”?深扒北约及乌克兰IPCamera被控的技术内幕!"

文章深度拆解俄罗斯情报机构劫持北约及乌克兰IP摄像头的技术内幕。攻击者利用网络空间测绘工具识别公网暴露设备,通过弱口令和已知漏洞(如CVE-2016-7407、CVE-2021-39275)获取控制权,并将视频流接入AI视觉系统进行自动化情报收集。文章强调防御关键在于收敛攻击面、使用VPN、修改默认密码和加强设备生命周期管理。
评论:0   参与:  0