文章总结： 本文介绍了360数字安全集团在AI安全领域的前沿思考与实践。随着AI智能体能力的增强，其安全风险也日益凸显。文章提出应采取以模治模的治理思路，即利用AI来治理AI，并分享了三点实践经验：决策与执行分离、在沙箱中运行智能体以及为每个智能体设立独立身份。360已形成一套从扫描、拦截到追溯的智能体安全防护体系，旨在保障人工智能技术的稳健发展。 综合评分： 85 文章分类： AI安全,产品介绍,网络安全,解决方案,数据安全

360亮相第二届浦江AI学术年会 | 智能体安全，不只是“未来命题”

360数字安全

2026年3月31日 18:07 北京

News Today

近日，第二届浦江AI学术年会在上海召开，聚焦科学智能前沿，汇聚百余位顶尖学者、产业领袖及技术专家，共同探索AGI驱动科学发现的广阔前景，助力全球人工智能创新协同发展。360数字安全集团副总裁余凯受邀出席本届年会《AI安全：跨界融智 信守未来》专题论坛，并分享了360在智能体安全领域的前沿思考与实践。

AI

为什么智能体让人“更焦虑”？

以前的AI，是对话框里的“咨询顾问”，一问一答，给的是建议。现在的智能体，是装上“外骨骼”和“手脚”的数字员工，它能直接操控文件系统、操作终端、管理邮件，甚至替你做金融支付。

从安全视角审视，这种能力拓展恰恰引发了深刻的担忧。余凯指出，AI越重要，AI 安全就越迫切。智能体能够执行的任务越多，安全焦虑也随之加剧。从技术本质上看，智能体已彻底突破了传统安全防御体系的边界。通过一个对话窗口，攻击者可以植入恶意Skill，或在信息检索过程中引入恶意代码，从而绕过现有防御机制。加之智能体以自然语言为交互基础，更带来了一系列前所未有的安全挑战。

AI

以模治模：用AI治理AI

AI时代，安全的重要性被进一步放大。几乎每一个行业都将被AI渗透，其核心业务系统必然与AI深度融合。那些未能与AI结合的行业，或将面临被边缘化乃至替代的风险。

在此背景下，AI安全已不再是可选项，而是关乎行业存续的必答题。当AI不再是“工具”，而是拥有自主权的“数字员工”，我们面临的核心问题是：如何让它安全上岗，真正赋能产业，而不是成为新的风险源。

余凯指出，要坚持“以模治模”的治理思路，即用AI治理AI，以“安全智能体”赋能安全能力升级，并分享了360在实践中总结的几点经验。

\ | /

★

首先，决策与执行相分离，将决策智能体与执行智能体职责划分，二者相互制约，即使某一环节被突破也难以形成完整的攻击链。同时，设立专门的审计与监控智能体，对业务智能体行为进行实时监督，一旦发现权限越界、数据外传、操作漂移等异常，立即触发熔断机制。

\ | /

★

其次，考虑将智能体控制在沙箱中运行——一个完全隔离的容器，限制网络出口和文件读写，即便发生失控，破坏也仅限于临时空间。

\ | /

★

最后，每个智能体必须拥有独立的“非人类身份”，通过即时访问控制确保只在任务执行期间临时授权，任务完成立即收回权限，避免单点突破引发系统性风险。

AI

未来十年：AI安全，360已在路上

图灵奖得主、中国科学院院士姚期智在本届年会上指出，AI的安全问题是其发展的重要瓶颈。如果安全性有问题，将来它在应用推广上就会遇到瓶颈。

上海人工智能实验室主任、首席科学家周伯文在开幕式致辞中指出，当前人工智能正处在技术成熟与产业重构的历史交汇点，让我们有机会更前瞻性地思考如何定义全新的技术未来。

过去二十年，网络安全从“救火”走向“备战”，核心是形成了CVE漏洞、ATT&CK攻防技战术、CTI威胁情报的“通用语言”“知识框架”和“作战地图”。而AI安全领域，目前还缺乏这样的共识基础。余凯呼吁行业主管、智库、厂商合力共建AI安全的基础设施体系，让AI安全进入有序发展的快车道。

从办公网到生产网，从员工终端到核心服务器，360已经形成了一整套“事前扫描+事中拦截+事后追溯”的智能体安全防护体系。无论是供应链投毒、提示词注入，还是违规部署、权限失控，360都能实现“发现即处置、攻击即阻断”。

不发展是最大的不安全。未来十年，随着AI快速迭代，安全将不再是合规底线，而是AI业务竞争力的核心支柱。360作为既懂安全又懂AI的先行者，将持续为智能体系紧“安全带”，为“人工智能+”行动行稳致远保驾护航。

往期推荐

| | | | | | — | — | — | — | | | | | | — | — | | 01 | ● 2026两会观察 | 周鸿祎为智能体人才培养献策，360先行落地 | | ► 点击阅读 | | | | | | | — | — | | 02 | ●  360龙虾卫士重磅上线：九大能力专治OpenClaw“裸奔” | | ► 点击阅读 | | | | | | | — | — | | 03 | ● IDC双报告首推：360以绝对实力护航每只“龙虾”安全 | | ► 点击阅读 | | | | | | | — | — | | 04 | ● 360安全龙虾「养虾速成课」正式上线ISC.AI学苑！ | | ► 点击阅读 | |

免责声明：

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。

任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。

本文转载自：360数字安全 《360亮相第二届浦江AI学术年会 | 智能体安全，不只是“未来命题”》