文章总结： 云安全联盟大中华区秘书长许木娣在世界无人机大会上指出，AI正从辅助工具演进为具备自主决策能力的社会底层系统，安全治理面临多智能体协同等新挑战。她提出驾驭智能理念，强调需要建立可预测、可问责的AI治理体系，并介绍了AICM等国际安全标准框架。建议通过CAISP认证等人才培养措施加强AI安全生态建设，确保低空经济等新兴领域的安全可控发展。 综合评分： 85 文章分类： AI安全,政策法规,安全建设,解决方案,安全培训

人工智能的发展迈向驾驭智能阶段

国际云安全联盟CSA

2026年5月22日 18:06 广东

在小说阅读器读本章

去阅读

在低空经济、智能无人系统与AI快速融合的今天，“安全”正在成为产业发展的核心命题。

5月21日，云安全联盟大中华区秘书长许木娣在2026世界无人机大会上，发表《人工智能安全范式与标准》主题演讲，围绕AI快速演进、安全治理挑战、国际标准体系与产业实践展开系统分享，为“低空智联”时代的安全发展提供了新的思考框架。

AI，正在成为未来社会运行的“底层系统”

许木娣在演讲中指出，AI已经不再只是一个产业工具，而正在成为未来社会运行的重要基础设施。随着大模型、多模态AI、Agentic AI（智能体）以及数字员工体系快速发展，AI正从“辅助工具”演进为具备自主决策与持续学习能力的数字系统。

她引用 Geoffrey Hinton 等国际专家观点表示：“AI跑得太快”，人类社会正在进入一个前所未有的技术跃迁阶段。与此同时，AI系统已经开始具备自主学习、推理、长期规划、多模态理解以及自主决策等能力。

“未来最大的挑战，不只是AI更强，而是如何让强大的AI始终处于可控、可信、可监督的体系之内。”

许木娣提及“驾驭智能（Harnessed Intelligence）”理念：前沿人工智能系统不仅要具备强能力与自主性，更需要被纳入约束、治理、价值对齐与监督体系之中，实现“可预测、可问责、可持续”的智能发展。

AI安全，已经不只是“网络安全问题”

演讲中，许木娣特别强调，AI正在重构传统生产关系与安全边界。

在AI Agent模式下，人类角色正从“执行者”转变为“指令发出者”“监督者”与“管理者”，传统安全模型面临巨大变化。AI不仅可以跨系统、跨权限自主行动，还可能形成复杂的多智能体协同风险。

她指出：“未来AI最大的风险，可能不是单个模型不安全，而是多个‘安全AI’组合后形成的不安全系统。”

此外，AI带来的挑战已经扩展至伦理、司法、军事、知识产权、社会治理等多个层面。AI安全也正在从传统“AI Security”逐渐走向更广义、更深层次的“AI Safety”。

从标准到人才：CSA持续推动AI安全生态建设

围绕全球AI治理趋势，许木娣系统梳理了当前国际AI安全与治理框架的发展路径。

她表示，国际社会正在从“AI Ethics（AI伦理）”逐步进入“AI Safety（AI安全治理）”阶段，全球治理体系正在加速形成。其中，CSA发布的 AICM（AI Controls Matrix）是首个面向云端人工智能系统、厂商中立的AI安全控制框架，可帮助企业以“安全、可信、负责任”的方式建设和运营AI系统。

而WDTA推动的 AI STR框架，则聚焦大模型、生成式AI、智能体与供应链安全测试规范，为未来国际AI安全测评与认证体系提供支撑。

随着无人机、智能体、自动驾驶与边缘AI不断融合，“低空经济”将成为AI安全治理的重要落地场景之一。许木娣表示，未来产业竞争不仅是技术能力竞争，更是“安全治理能力”与“标准体系能力”的竞争。

从标准到人才：CSA持续推动AI安全生态建设

演讲最后，许木娣还介绍了CSA大中华区在AI安全人才培养领域的实践，包括：CAISP 人工智能安全专家认证、CAIDCP AI驱动安全专家认证等。我们需要培养懂AI的安全科技人才，也需要培养懂安全的AI科技人才，还联合CSA网络安全会员企业共同帮助各行各业组织机构和企业增强应用AI的安全能力。

她强调：“没有安全，创新就会演变为大规模风险。”

在AI与低空经济深度融合的新阶段，如何建立可持续、可信赖的AI安全体系，已经成为全球产业共同面对的重要命题。CSA大中华区也将持续联合全球生态伙伴，推动AI安全标准、治理框架、产业实践与人才体系建设，助力AI时代的高质量发展。

相关推荐

免责声明：

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。

任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。

本文转载自：国际云安全联盟CSA 《人工智能的发展迈向驾驭智能阶段》