英伟达与科技巨头联合发起安全人工智能联盟

内生安全联盟

2026年7月31日 11:35
江苏

在小说阅读器读本章

去阅读

英伟达和一大批技术、网络安全和企业软件公司于周一宣布成立开放安全人工智能联盟，这是一项旨在开发和共享开源工具、模型和技术以保护人工智能系统和代理的新计划。

这项工作建立在 Linux 基金会最近推出的Akrites计划和 OpenSSF 社区的现有工作之上。

开放安全人工智能联盟的创始合作伙伴还包括 Adobe、Cadence、Capital One、思科、Cloudera、Cloudflare、Cognition、CrowdStrike、Databricks、戴尔、DoorDash、Elastic、HPE、Hugging Face、IBM、LangChain、微软、Naver、NetApp、Nous Research、OpenClaw、Palantir、Palo Alto Networks、Red Hat、Reflection AI、Salesforce、SAP、SK Telecom、ServiceNow、西门子、Snowflake、SpaceXAI、Synopsys、Thinking Machines Lab 和 TrendAI。

Nvidia 对该项目的贡献包括开放模型、权重、数据和代理工具研究，其中包括一个名为NOOA 的新发布的开源项目，旨在帮助工具使代理行为更容易跟踪、测试和审计。

HPE正在为 SPIFFE/SPIRE 做出贡献，SPIFE/SPIRE 是一个零信任身份框架，用于以加密方式验证 AI 代理和服务；而 Hugging Face 则将其 Safetensors 模型权重存储格式捐赠给了 PyTorch 基金会。

IBM 和 Red Hat 正在通过Lightwell项目扩展开源供应链安全，该项目旨在大规模提供自动化漏洞修复。

微软贡献了MDASH，这是一个多模型代理扫描框架，它协调 AI 代理来查找、讨论和验证可利用的软件漏洞。

SpaceXAI 正在开源其基于终端的人工智能编码代理 Grok Build，并计划最终开源 Grok 模型系列的权重。

该新联盟认为，开放模型、工具和安全工具应被视为防御资产而不是负债，并警告政策制定者和监管机构，对开放前沿人工智能的广泛限制可能会削弱集体网络防御能力。

英伟达指出最近OpenAI 和 Hugging Face发生的安全事件，并指出，当封闭的 AI 工具无法区分攻击者和防御者并阻止取证工作时，Hugging Face 在其自己的系统上使用开源的 GLM 5.2 模型审查了超过 17,000 个操作并控制了漏洞。

英伟达表示：“正确的应对措施不是剥夺防御者使用功能强大的开放系统的权限，而是将开放性与强有力的安全保障、明确的恶意滥用防范规则、严格的评估和快速的补救措施相结合。在网络安全领域，更安全的道路是让更多的防御者能够测试、验证和加强社会赖以生存的系统。 ”

“防御者需要前沿封闭模式和前沿开放模式协同工作，以便选择合适的系统来完成任务，并确保在安全需要的地方都能提供透明度、适应性和主权控制，”声明补充道。

来源：数世咨询