电子科技大学|智能模型研究室在人工智能顶级会议WWW26发表2篇论文

admin 2026-03-18 00:31:24 网络安全文章 来源:ZONE.CI 全球网 0 阅读模式

文章总结: 电子科技大学智能模型研究室在WWW2026发表两篇论文。首篇提出GraphCogent框架,利用多智能体协作缓解大模型工作记忆限制,提升复杂图理解能力并降低成本。第二篇提出KEPo方法,针对GraphRAG构造知识演化投毒攻击,证实其成功率高且现有防御效果有限,揭示了新型安全风险。 综合评分: 85 文章分类: AI安全,漏洞分析,数据安全,安全大事件


cover_image

电子科技大学|智能模型研究室在人工智能顶级会议WWW26发表2篇论文

信息网络安全杂志

2026年3月2日 20:13 上海

2026年1月,国际万维网大会 The Web Conference (WWW 2026) 公布录用结果,本届大会收到了3370份有效投稿,其中676篇(20.1%)被会议接受。我院智能模型研究室2篇关于大语言模型在复杂图理解推理与安全风险的论文被会议接收。

01

第一篇论文的录用信息为:GraphCogent: Mitigating LLMs’ Working Memory Constraints via Multi-Agent Collaboration in Complex Graph Understanding.

研究院2024级博士研究生王荣正为论文第一作者,导师为秦科教授,协助指导老师为梁爽副研究员,电子科技大学为第一单位。

以下是论文的主要内容:

图结构数据广泛存在于Web、交通、社交与引文网络等真实场景中,但现有大语言模型在处理“规模更大、查询更复杂”的真实图推理任务时,常因工作记忆(Working Memory)受限而导致推理路径错误或执行不稳定。

针对上述挑战,论文提出GraphCogent协作式智能体框架,借鉴人类工作记忆模型,将复杂图推理拆解为“感知(Sense)—缓冲(Buffer)—执行(Execute)”三类专业智能体:由Sensory Module通过子图采样将多样的图文本表示规范化;由Buffer Module融合并索引跨格式图数据(如NumPy、PyG、NetworkX等);由Execution Module将工具调用与工具创建结合,以更高效、更可靠的方式完成图算法推理与任务执行。

为系统评测真实图推理能力,论文构建Graph4real基准,覆盖Web、交通、社交、引文四类真实图数据,包含21类图推理任务,并按结构查询、算法推理与预测建模三大类型组织;相较既有基线模型,其图规模可扩展至约10倍,可应对真实应用复杂性带来的挑战。

图1:GraphCogent整体框架示意图(Sensory–Buffer–Execution)

实验结果表明:基于Llama3.1-8B的GraphCogent在Graph4real上取得显著提升,相比超大规模模型DeepSeek-R1(671B)实现约50%的性能提升;相较于代表性的多智能体基线方法,准确率提升约20%,并在工具集内任务与工具集外任务上分别降低约80%与30%的Token消耗,体现了在效果与成本上的双重优势。

02

第二篇论文的录用信息为:KEPo: Knowledge Evolution Poison on Graph-based Retrieval-Augmented Generation

学校2023级博士研究生陈麒至为论文第一作者,导师为秦科教授,协助指导老师为梁爽副研究员,电子科技大学为第一单位。

以下是论文的主要内容:

检索增强生成(Retrieval-Augmented Generation, RAG)通过检索外部知识库为大模型生成提供证据支撑,但也面临因“外部知识源可被注入恶意内容”带来的新型攻击。近年来,GraphRAG进一步将知识组织为实体-关系图谱并按社区/子图进行检索与汇总,以更好支撑复杂知识关联与多跳推理。然而,现有面向传统RAG的投毒方法多基于文本句段的相关性操纵,在GraphRAG的知识抽取、图构建与社区汇总机制下往往难以有效提升恶意内容的检索排名,从而难以持续误导生成模型输出目标答案。

针对上述挑战,论文提出知识演化投毒(Knowledge Evolution Poison, KEPo)方法:在单目标场景下,KEPo围绕目标问答生成包含投毒知识的“毒性事件”,并基于原始事实构造带时间顺序的知识演化路径,通过伪造可信背景与按时间线组织的攻击语料,将投毒知识自然“融合”进既有图社区;在多目标场景下,KEPo进一步跨多个投毒子社区抽取关键节点并建立虚构关系,实现多语料互相强化与投毒范围扩张,从而系统性提升投毒知识的检索排名与攻击效果。

图2:KEPo攻击流程示意图(论文Figure 3)

实验方面,论文在GraphRAG-Bench(Graph-Story与Graph-Medical)以及多跳问答数据集MuSiQue上开展系统评测,采用ASR(Attack Success Rate)与CASR(Conditional ASR)衡量攻击成功率,并在GraphRAG、LightRAG(全局/局部检索)与HippoRAG 2等代表性GraphRAG框架以及naive RAG上,与PoisonedRAG、CorruptRAG、GRAG-Poison等基线方法进行对比。结果表明,KEPo在单目标与多目标场景下均取得更高的攻击成功率,并在检索框架退化为naive RAG时仍保持显著优势。进一步分析显示:投毒文本长度增加可快速提升ASR,但在约100词后收益逐渐趋于饱和;多目标场景下,跨语料连接数量增加可提升ASR,但在连接过多时可能因语义相关性下降而出现边际收益降低。

此外,论文评估了查询改写、指令忽略与提示检测等常见防御策略,发现其对KEPo攻击的抑制效果有限,凸显了GraphRAG安全防护仍需面向“知识演化伪造”这一新型攻击范式开展更有针对性的检测与鲁棒检索研究。

相关链接:

国际万维网大会(The Web Conference,简称 WWW,现亦称 ACM Web Conference)是Web领域最具影响力的国际学术会议之一,由国际万维网大会委员会(International World Wide Web Conference Committee,IW3C2)组织举办,长期推动Web相关研究与发展。 该会议系列始于1994年,首届WWW1在瑞士日内瓦CERN举办并由Robert Cailliau组织;IW3C2亦于1994年由Joseph Hardin与Robert Cailliau发起成立,持续负责该会议系列的组织与治理。在学术评价体系中,WWW被中国计算机学会(CCF)推荐为A类国际学术会议(交叉/综合/新兴领域)。

来源:电子科技大学

往期精彩回顾

从竞赛“练兵场”到人才“孵化器”: 湖南大学、复旦大学、四川大学、西安邮电大学引领塑造网络安全新生力

守护语音安全: 华中科技大学CPSS团队如何打造Anti-Deepfake系统斩获创意作品赛冠军?

信息网络安全

《信息网络安全》创刊于2001年,是由公安部主管,公安部第三研究所、中国计算机学会主办,面向国内外公开发行的国内首批信息安全类期刊之一,于2015年成为中国科技核心期刊,2017年成为中国科学引文数据库来源期刊,2018年成为中文核心期刊,2022年入选CCF计算领域高质量科技期刊分级目录。

中文核心期刊

中国科技核心期刊

中国科学引文数据库来源期刊

CCF计算领域高质量科技期刊

我们在不断努力和完善中,期待您的关注和支持!


免责声明:

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景,旨在提升网络安全防护能力,具有明确的技术研究属性。

任何单位或个人未经授权,将本文内容用于攻击、破坏等非法用途的,由此引发的全部法律责任、民事赔偿及连带责任,均由行为人独立承担,本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布,若存在版权侵权或其他异议,请通过邮件联系处理,具体联系方式可点击页面上方的联系我

本文转载自:信息网络安全杂志 《电子科技大学|智能模型研究室在人工智能顶级会议WWW26发表2篇论文》

WindowsETW攻击 网络安全文章

WindowsETW攻击

文章总结: 文档阐述了通过破坏ETW机制致盲EDR的技术。主要手段包括利用logman禁用提供者阻断遥测,及修补ntdll中EtwEventWrite函数阻止事
评论:0   参与:  0