第41次全国计算机安全学术交流会·人工智能安全技术创新与发展分论坛在海口召开

自主创新如是说

2026年10月19日 09:00
湖北

去阅读

10月15日，第41次全国计算机安全学术交流会·人工智能安全技术创新与发展分论坛在海口召开。论坛以“智护AI安全 赋能数智未来”为主题，汇聚行业专家、科研院所、高等院校、头部企业等多方资源，共探人工智能安全技术创新与发展之道。

2026年是“十五五”规划开局之年，也是加快推进网络强国、数字中国建设的关键之年。论坛由中国计算机学会计算机安全专业委员会主办，中国计算机学会计算机安全专委会车联网安全工作组、工业互联网安全工作组、科技创新应用工作组与天融信科技集团联合承办。

论坛伊始，CCF计算机安全专委会主任委员，公安部第一、第三研究所原所长严明发表致辞称，今天的人工智能，不再仅仅是赋能安全的工具，其自身已经成为网络安全攻防博弈的核心战场。一方面，AI技术显著提升威胁检测、风险研判、应急处置能力，助力安全防御体系向主动感知、人机协同转型；另一方面，AI也降低网络攻击门槛，新型安全风险持续凸显。本次分论坛的举办，正是专委会积极响应国家发展战略，聚焦行业热点，推动产、学、研、用深度融合的重要举措。

CCF计算机安全专委会办公室副主任、科技创新应用工作组组长，中国科学院计算机网络信息中心副主任龙春在致辞中提到，人工智能安全不能仅靠单一机构单打独斗，基础科研攻关、安全测评验证、产业场景实践、人才队伍建设必须协同推进。科技创新应用工作组正在着力做好产学研用之间的“连接器”，一头对接科研院所、高校的前沿理论成果，一头对接产业一线真实场景需求，推动技术从论文走向实战应用，把治理要求转化为可落地的技术路径。

CCF计算机安全专委会主任扩大会议成员、车联网安全工作组组长，天融信科技集团董事长兼CEO李雪莹在致辞中表示，科技创新是新质生产力的核心要素、人工智能是新质生产力的核心支撑，车联网、工业互联网是新质生产力的重要场景，安全则是新质生产力的内在属性。李雪莹认为，践行安全发展理念需要应势而为，构筑多方协同平台需要聚智聚力，筑牢AI安全防线需要以智护智，天融信将在安全专委会指导下，继续携手业界共建安全可信的人工智能产业生态。

凝聚共识 筑牢AI安全屏障

主题演讲环节，来自清华大学、海南大学、南方电网、公安部第一研究所、中国科学院、天融信科技集团的多位专家学者齐聚一堂，聚焦AI安全风险防控、技术创新、体系建设与生态共治等方向展开深度分享。

徐恪围绕系统安全观，分析智能生态在系统运行、模型算法与服务应用三个层面的安全风险，提出协同防御体系：在系统运行层，利用TrafficLLM、PacketScope等技术开展流量分析与威胁识别；在模型算法层，通过隐私保护与授权链机制增强模型内生可信能力；在服务应用层，依托玄甲OS构建覆盖基座扫描、输入净化、认知保护、决策对齐和执行控制的分层防御体系。

随着深度学习快速发展，周晓谊分别从后门水印与可逆对抗样本两条技术路线开展研究，构建数据集知识产权保护体系。面向公开数据集，提出ASWmark音频水印、ImageGuardian图像干净标签水印，在不破坏数据可用性前提下完成黑盒侵权验证。面向私有数据集，提出RAEncoder无标签可逆对抗样本，适配自监督学习，实现样本无损恢复；提出TAERWP可追溯对抗样本，解决授权数据二次分发溯源难题。

生成式大模型应用在各行各业加速落地，内容违规、数据泄露等安全风险日益凸显。安全检测评估是排查风险隐患，开展针对性安全治理的重要抓手。杨慧然立足检测评估监管要求和实践案例，系统性总结分析生成式大模型应用的安全风险、监管要求、学术研究进展、检测评估实践案例，探讨风险发现、效能评价与防护优化的闭环路径，为大模型应用安全检测评估技术发展提供参考。

张华兵分享了南方电网在AI赋能网络安全领域的思路、实践与思考。他提到，南方电网推动“AI与安全”双向赋能，提出构建“以智管智动态防御监管体系”，通过阵地战筑基、运动战制变、平战结合贯通，打造智能研判、柔性处置、溯源取证、漏洞挖掘、指挥调度等多类网安智能体，并构建模型、数据、场景、人才“四方协同”方法体系，实现由单点响应向多智能体协同、攻防持续进化的转变。

连一峰将人工智能安全风险分解为六个层次——模型风险、数据风险、内容风险、行动风险、伦理风险和生存发展风险。他提到，传统防护技术已不适应人工智能发展，需多部门协同构建全产业链安全治理体系，落实模型准入、分级分类、内容审查、零信任管控、安全评估、监测审计等技术和管理措施，支撑人工智能产业安全可控发展。

聚焦“AI+科学”浪潮下的安全新命题，魏金侠系统剖析当前AI安全评测的国内外差距，并分享如何构建面向AI4S场景的智能安全防护体系，涵盖智能体技能安全检测、行为审计与根因定位、AI安全路由网关及安全围栏等前沿实践，并介绍“科学地平线”大模型安全评测榜单，为科研工作者提供“安全用AI”与“放心用AI”的解决方案。

同一段完全合规的工业协议报文，通用网络安全与工艺安全两套认知体系会得出相反结论。马霄指出，AI的价值在于架起两套认知体系的桥梁，驱动安全能力完成三层升级：从“通信关系与语法”到“通信语义（物理行为）”，再到“上下文内容（行为时序）”。在此基础上，马霄现场介绍了三条落地路径，详解如何把检测锚点从攻击指纹转向工艺基线，升级为保障过程安全闭环。

转自：CCF计算机安全专委会