文章总结： 中国信通院院长余晓晖指出中国对AI接受度高但需警惕安全风险，用户在使用智能体时常忽视隐患。当前主流大模型安全水平仅15%至30%，企业需构建安全治理体系，厂商应主动加强技术安全加固。他还提出需解决小语种适配、算力互联互通及全球安全治理协同等问题，呼吁在拥抱创新的同时筑牢安全底线。 综合评分： 76 文章分类： AI安全,安全建设,政策法规,安全意识

中国信通院院长余晓晖：AI企业需主动加强大模型、智能体等技术安全加固

Cismag Cismag

信息安全与通信保密杂志社

2026年3月26日 17:42 四川

“中国是对数字技术与人工智能技术接受度最高的国家之一。从国家、企业到普通消费者，均对新技术抱有浓厚兴趣并乐于尝试。”

3月25日，博鳌亚洲论坛“AI+”：数智赋能产业升级分会现场，中国信息通信研究院院长余晓晖指出，今年不少用户即便对开源AI智能体“龙虾”（OpenClaw）不甚了解，仍愿意主动体验；去年春节DeepSeek发布时，许多非行业人士也表现出高度关注。中国企业同样积极试水新技术，这为数字经济与人工智能发展注入了强劲活力，也是我国在相关领域实现突破的重要原因。

谈及AI治理如何平衡技术创新和可控性，余晓晖表示，当前社会在一定程度上低估了新技术带来的安全挑战。用户在使用“龙虾”时，往往忽视授权后其自主执行任务可能引发的不可控风险。其所在研究院此前测试也证实，相关技术存在诸多安全隐患。

但余晓晖认为，中国仍应积极拥抱新技术，推动其在各行业各领域探索应用，秉持创新精神而非畏惧退缩，以此提升生产力、增进社会福祉。

余晓晖进一步指出，面对新技术，社会应建立更全面的认知与敬畏之心，在应用过程中坚守基本安全底线。对企业与机构而言，未来自身的安全治理能力将愈发重要。在提升生产、学习与工作效率的同时，必须同步筑牢安全防线、构建安全治理体系，这在当前全球范围内均是一项极具挑战性的工作。

与此同时，余晓晖指出，国内外人工智能厂商肩负重大责任，需主动加强大模型、智能体等技术的安全加固。相关测试显示，当前国内外主流大语言模型（的安全水平）约15%至30%，相关工作仍需大力推进。目前团队已推动国内十余家人工智能头部企业作出人工智能安全承诺并进行信息披露，以切实解决相关安全问题。

“各方普遍希望在本轮人工智能浪潮中抓住机遇、不落人后，这是共同的诉求。当前应用场景广阔，但仍有几方面问题亟待解决。”余晓晖表示，一是小语种与模型多元化问题。需针对不同区域发展适配的小语种模型，实现技术普惠至关重要。

余晓晖指出，中国人工智能企业在此作出重要贡献，DeepSeek、月之暗面、阿里等推出的开源模型，为各国依托先进技术开展本土化训练、构建自主主权模型奠定了良好基础。

二是算力问题。余晓晖表示，这是当前面临的突出挑战，推动区域内算力互联互通，是满足算力需求的关键路径。

三是安全与治理问题。余晓晖指出，尽管各国政府已开展大量工作，但实际效果仍有不足。在区域层面，可围绕统一标准、协同治理规则、共建测试工具、加强技术团队与区域能力建设等方面深化合作。中国企业已深度参与其中，未来仍有广阔空间。各方应共同把握全球人工智能发展的创新红利，同时筑牢安全底线，妥善应对风险与治理挑战。

来源：澎湃新闻

★

★ ★ ★

★

免责声明：

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。

任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。

本文转载自：信息安全与通信保密杂志社 Cismag Cismag《中国信通院院长余晓晖：AI企业需主动加强大模型、智能体等技术安全加固》