文章总结： 文章指出网络安全的下一个关键挑战是AI智能体验证问题，而非单纯防御AI。自主AI智能体已广泛部署但缺乏可靠身份验证机制，其动态性、多智能体协作和跨组织交互特性使传统安全模型失效。行业开始探索验证标准如Anthropic的CVP计划和Lyrie的ATP协议，提出需解决智能体身份、权限、防篡改、授权链和实时撤销五大核心问题。建议企业从身份管理、访问控制、审计链条等维度审视智能体安全体系。 综合评分： 82 文章分类： AI安全,技术标准,安全建设,解决方案,网络安全

下一个网络安全难题：智能体验证

数世咨询

2026年5月21日 15:00 河北

在小说阅读器读本章

去阅读

点亮上方「★星标 」更多干货内容，不再错过！

本文关键看点：

#01

网络安全的下一个重大前沿课题不是如何保护人工智能，而是如何信任它。

#02

验证智能体的难点在于，它是动态的（规则失效）、链路的（多攻击点）、跨组织的（多主体）……

#03

验证标准至少要回答5个问题：这个智能体是谁？被授权做什么？是否被篡改过？是谁授权的以及通过什么链条授权的？如果出现问题，这种权力能即时被撤销吗？

▍以下正文内容基于英文原文编译，可能存在语义偏差，请以原文为准。

✦

以下为正文

✦

过去二十年，网络安全很大程度上是关于保护人类免受机器伤害的故事——阻止恶意软件、过滤钓鱼邮件、缓解DDoS攻击、在攻击者利用前修补软件漏洞。对手是明确的，表面是已知的， playbook虽然不完美但至少是清晰的。但这个故事正在改变。

网络安全的下一个重大前沿课题不是如何防御人工智能，而是如何信任它。

智能体已在使用中

自主AI智能体正在被部署——阅读收件箱、执行代码、转账、签署合同，做出在任何先前时代都需要人工签名的决策。智能体经济不在地平线上，它已经运行在你的安全边界内。

采用速度可以理解，生产力论证也很有说服力。一个AI智能体可以将数周的分析师工作压缩到几小时。但大多数组织尚未提出的问题是：当AI智能体代表你采取行动时，你如何真正知道它就是它声称的那个？

信任问题就在眼前

在传统网络安全中，身份是基础，零信任架构的存在正是因为我们认识到网络内部的存在并非合法性的证明。我们对用户进行身份验证，验证设备，强制执行最小权限访问控制，记录和审计一切。但这些基础设施都不是为AI智能体设计的。

如今，当一个自主AI智能体向API、数据库、金融系统或另一个智能体发起请求时，接收方通常没有可靠机制来验证其身份、确认其授权操作、检查其指令是否被篡改，或实时撤销其访问权限。智能体像个陌生人一样到来，大多数系统直接让它进来。

这不是一个理论漏洞。这是一个系统性的缺口，随着智能体部署规模扩大，这个缺口每个月都在扩大。这正是恶意威胁行为者历来非常善于利用的那种缺口。

为什么验证比看起来更难

验证AI智能体的挑战不仅仅在于添加一层身份验证。它在结构上不同于验证人类或传统软件，原因有几个。

首先，智能体是动态的。与具有固定行为集的静态应用程序不同，AI智能体的能力和行为可以根据上下文、指令和驱动它们的模型而改变。在部署时验证智能体”安全”并不能告诉你一小时后它可能做什么。

其次，智能体在链中运作。现代AI工作流涉及多智能体管道，一个智能体将任务委托给另一个，再委托给下一个。每个交接点都是潜在的欺骗、注入或范围蠕变的攻击点。验证链中的第一个智能体是不够的，如果你无法验证它向下游传递了什么。

第三，智能体跨组织边界交互。代表你公司运营的AI智能体可能正在与由供应商、客户或云基础设施提供商控制的智能体通信。目前跨组织智能体交互没有共享的信任框架。

第四，攻击面包括指令本身。提示词注入攻击——恶意内容嵌入外部数据中劫持智能体行为——已在野外使用。验证不仅仅是关于智能体是谁，而是关于智能体被告知要做的事情是否被篡改。

行业开始行动

解决这一缺口的框架和程序的出现表明，安全社区了解什么是利害攸关的。Anthropic的网络验证计划（Cyber Verification Program，CVP）是行业需要走向何方的早期指标之一。通过为与Claude基础设施合作的合法网络安全运营商建立框架，包括双用途工具和进攻性安全研究，Anthropic承认了一件重要的事情：AI时代的安全需要主动验证，而不是被动假设。

Lyrie.ai是第一批被CVP接受的公司之一，突显了其在为AI智能体和自主系统构建安全工具方面的早期关注。该公司的加入也反映了整个行业日益增长的看法：保护AI系统需要为现代AI实际运作方式构建的平台，而不是适应从未为其设计的旧安全模型。

但CVP是一个起点，不是终点。行业需要的不只是个别运营商的验证程序。它需要开放的、可互操作的标准，使智能体验证成为整个生态系统的一级原语。

标准可能是什么样子

• AI智能体验证的加密标准至少需要回答五个问题：
• 这个智能体是谁？
• 它被授权做什么？
• 它或其指令是否被篡改过？
• 谁、通过什么链条向它授予了权限？
• 如果出了问题，这种权限能否被实时撤销？

这些在安全领域并非新概念。它们与我们在代码签名、证书机构和身份联合方面所做的工作密切相关。挑战在于使它们适应AI智能体的特定属性——它们的动态性、委托模式以及对指令操作的敏感性。

Lyrie的研究团队发布了智能体信任协议（Agent Trust Protocol，ATP），这是一个解决这些原语的开放加密标准。它免版税，并已提交给互联网工程任务组（IETF）审议。

ATP或竞争提案最终是否成为标准并不重要，更重要的是：关于标准的对话现在就需要开始，在部署曲线使改造变得代价高昂之前。互联网的历史提供了一个警示故事。

电子邮件构建时没有身份验证。几十年后，我们仍在与大规模垃圾邮件、网络钓鱼和欺骗作斗争，因为信任是事后才想到的。我们不能对AI智能体重蹈覆辙。

安全团队现在应该问什么

已经部署或计划部署自主AI智能体的组织应该对自己和供应商提出尖锐的问题：智能体身份是如何建立和维护的？什么访问控制管理智能体行为，如何在运行时而不仅仅是在配置时执行？如何审计多智能体委托链？当智能体行为异常时会发生什么，权限能被多快撤销？智能体运营的AI基础设施是否接受独立安全验证？

如果答案模糊，这不是供应商不成熟的标志。这可能是正确问题尚未被提出的信号。

* 本文为泽钧编译，原文地址：

The Next Cybersecurity Challenge May Be Verifying AI Agents

注：图片均来源于网络，无法联系到版权持有者。如有侵权，请与后台联系，做删除处理。

— 【 THE END 】—

🎉 大家期盼很久的#数字安全交流群来了！快来加入我们的粉丝群吧！

🎁多种报告，产业趋势、技术趋势

这里汇聚了行业内的精英，共同探讨最新产业趋势、技术趋势等热门话题。我们还有准备了专属福利，只为回馈最忠实的您！

👉 扫码立即加入，精彩不容错过！

😄嘻嘻，我们群里见！

更多推荐

免责声明：

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。

任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。

本文转载自：数世咨询 《下一个网络安全难题：智能体验证》