2026-03-03 09:56:20 网络安全文章来源：ZONE.CI 全球网 0 阅读模式

文章总结： 该文档为GPTSecurity第135期周报，汇总了六篇AI安全前沿论文。内容包括利用大模型挖掘数据库漏洞的FuzzySQL、智能体AI运行时供应链威胁与防御、工控渗透测试平台ICSSPulse、记忆增强型钓鱼检测智能体、轻量级钓鱼邮件防御机制及针对长期记忆LLM的对抗攻击研究。展示了AI在攻防两端的最新应用与风险。 综合评分： 80 文章分类： AI安全,漏洞分析,安全工具,渗透测试,威胁情报

cover_image

第135期 | GPTSecurity周报

原创

知识分享者知识分享者

安全极客

2026年3月2日 17:36 北京

GPTSecurity是一个涵盖了前沿学术研究和实践经验分享的社区，集成了生成预训练Transformer（GPT）、人工智能生成内容（AIGC）以及大语言模型（LLM）等安全领域应用的知识。在这里，您可以找到关于GPT/AIGC/LLM最新的研究论文、博客文章、实用的工具和预设指令（Prompts）。现为了更好地知悉近一周的贡献内容，现总结如下。

Security Papers

FuzzySQL：基于大模型驱动的模糊测试挖掘数据库管理系统特殊功能中的隐藏漏洞

简介：传统数据库模糊测试技术主要聚焦于语法正确性与通用 SQL 结构，却极大忽视了数据库管理系统中关键但隐蔽的特殊功能，例如系统级模式（如 GTID）、可编程结构（如存储过程 PROCEDURE）、高级进程命令（如 KILL 指令）等。这类功能虽在常规输入中极少被触发，但在边界条件下执行时，可能导致严重崩溃或安全问题。

本文提出FuzzySQL—— 一种全新的、基于大模型的自适应模糊测试框架，旨在挖掘数据库管理系统特殊功能中隐蔽的漏洞。FuzzySQL 将语法引导的 SQL 生成与逻辑变换式渐进变异相结合：后者通过对条件取反、重构执行逻辑来探索不同控制路径，从而合成结构与语义多样化的测试用例。

为进一步提升后端执行深度覆盖，FuzzySQL 采用混合错误修复流水线，将基于规则的修补与大模型驱动的语义修复统一起来，可自动修正语法错误与上下文相关的执行失败。

研究者在多款数据库管理系统上对 FuzzySQL 进行了评估，包括 MySQL、MariaDB、SQLite、PostgreSQL 与 Clickhouse，共发现37 个漏洞，其中 7 个与此前测试不足的数据库特殊功能相关。截至本文撰写时，29 个漏洞已被确认，9 个获得 CVE 编号，14 个已由厂商修复，其余漏洞将在后续版本中陆续修补。

实验结果揭示了传统模糊测试工具在语义功能覆盖上的局限，同时证明了基于大模型的模糊测试在挖掘复杂数据库系统深层隐藏漏洞方面的巨大潜力。

链接：

https://arxiv.org/abs/2602.19490

智能体 AI 作为网络安全攻击面：运行时供应链中的威胁、利用与防御

简介：基于大语言模型（LLM）构建的智能体系统已超越文本生成范畴，能够自主进行信息检索与工具调用。这种运行时执行模式将攻击面从构建阶段产物转移到推理阶段依赖，使得智能体易受不可信数据操纵与概率化能力解析的影响。

现有研究多聚焦于模型层面漏洞，而源自循环、相互依赖的运行时行为所产生的安全风险仍缺乏系统性梳理。本文在统一的运行时框架内对这类风险进行体系化归纳，将威胁分为两类：

数据供应链攻击（瞬时上下文注入、持久化记忆投毒）
工具供应链攻击（发现、实现与调用环节）

本文进一步提出病毒式智能体循环（Viral Agent Loop）：在不利用代码级漏洞的前提下，智能体可成为自传播生成式蠕虫的传播载体。

最后，本文倡导零信任运行时架构：将上下文视为不可信控制流，并通过密码学溯源而非语义推理来约束工具执行。

链接：

https://arxiv.org/abs/2602.19555

ICSSPulse：面向工业控制系统渗透测试的模块化大模型辅助平台

简介：众所周知，工业控制系统是现代关键信息基础设施的运行核心骨架，但其日益增强的联网特性使其面临网络威胁，而这类威胁难以在真实运行环境中安全地开展研究与防御。

本文提出 ICSSPulse—— 一款开源、模块化、可扩展的渗透测试平台，专为工业控制系统（ICS）通信协议的安全评估设计。据研究者所知，ICSSPulse 是首个基于 Web 的一体化轻量平台，在单一生态中集成了：

网络扫描
支持 Modbus、OPC UA 等协议的交互能力
大语言模型（LLM）辅助的自动化报告

平台提供友好的图形化界面，可在仿真工业服务环境下统筹资产枚举、漏洞利用与报告生成，支持安全、可复现的实验。它支持协议级探测、资产枚举、受控读写交互，并保持协议保真度与过程透明性。

研究者在人工构建的 Modbus 测试服务器、Factory I/O 水处理场景、以及自定义 OPC UA 生产线模型上进行了实验评估，结果表明：ICSSPulse 能够有效发现活跃工业服务、枚举与流程相关的资产，并操控过程变量。

本文的一项核心贡献是集成了大模型辅助报告模块：可自动将技术发现转化为结构化的管理报告与技术报告，并基于 ICS 版 MITRE ATT&CK 矩阵给出对应的缓解建议。

链接：

https://arxiv.org/abs/2602.20663

MemoPhishAgent：面向钓鱼 URL 检测的记忆增强型多模态大模型智能体

简介：传统钓鱼网站检测依赖静态启发式规则或黑名单，难以跟上快速演变的攻击手段。尽管近年相关系统引入了大语言模型（LLM），但仍多为基于提示词的确定性流水线，推理能力未被充分利用。

本文提出 MemoPhishAgent（MPA）：一种记忆增强型多模态大模型智能体，可动态调度钓鱼检测专用工具，并利用历史推理轨迹的情景记忆，指导对重复出现与新型威胁的判断。

在两个公开数据集上，MPA 超越三种当前最优基线模型，召回率提升 13.6%。为更贴近真实用户场景下的钓鱼检测效果，研究者进一步从五大社交媒体平台实时爬取真实可疑 URL 构建基准集进行评估，在此场景下召回率提升 20%。

细化分析表明：情景记忆最多带来 27% 的召回率增益，且未引入额外计算开销。消融实验证实了相较于基于提示词的基线，智能体架构的必要性，并验证了本文工具设计的有效性。

目前 MPA 已部署上线，每周处理 6 万条针对性高风险 URL，召回率达 91.44%，为数百万用户提供主动防护。

实验结果共同表明：将多模态推理与情景记忆相结合，能在真实用户暴露场景下实现鲁棒的钓鱼检测。

链接：

https://arxiv.org/abs/2602.21394

一种基于蒸馏注意力增强型 BiLSTM 的轻量级下一代钓鱼邮件防御机制

简介：当前一代大语言模型能够生成高度成熟的社会工程学内容，轻易绕过商业通信平台中的标准文本筛查系统。针对这一问题，本文提出一种适用于邮件网关与终端的欺骗检测方案，该方案在满足网络与移动安全系统性能要求的同时，能够以隐私保护的方式运行。

研究首先对 MobileBERT 教师模型进行微调，随后将其知识蒸馏为融合多头注意力机制的 BiLSTM 模型。该蒸馏模型仅含450 万个参数，却能有效保留语义判别能力。

为提升模型对现代攻击的抵抗能力，研究构建了混合数据集，其中既包含人工撰写的邮件，也涵盖经掩码技术与个性化方法处理的、由大语言模型生成的改写文本。评估阶段采用五种测试协议，包括纯人工邮件测试、纯大语言模型生成邮件测试、两项跨分布迁移测试，以及一项类生产环境的混合流量测试，全面评估模型在原生环境、不同分布类型及混合流量场景下的性能。

实验结果显示：与 ModernBERT、DeBERTaV3-base、T5-base、DeepSeek-R1、Distill Qwen-1.5B、Phi-4 mini 等性能强劲的 Transformer 基线模型相比，该蒸馏模型的加权 F1 值仅下降 1-2.5 个百分点，但推理速度提升 80%-95%，模型体积缩小 95%-99%。

该系统在准确率与延迟方面均表现优异，且体积紧凑，无需加速硬件即可实现实时过滤，并支持基于策略的管理。论文还进一步探讨了系统在高流量条件下的性能表现、隐私保护安全措施，以及面向实际部署的实施方法。

链接：

https://arxiv.org/abs/2602.22250

ER‑MIA：针对长期记忆增强型大语言模型的黑盒对抗性记忆注入攻击

简介：大语言模型（LLM）正越来越多地通过长期记忆系统进行增强，以突破有限上下文窗口限制，实现多轮对话间的持续推理。然而，近期研究发现，记忆模块为模型引入了额外攻击面，使其安全性大幅下降。

本文首次对黑盒对抗性记忆注入攻击展开系统性研究，目标直指长期记忆增强型大语言模型中基于相似度的检索机制。研究者提出 ER‑MIA 统一框架，揭示该类漏洞，并形式化定义两种真实攻击场景：

基于内容的攻击
面向问题的靶向攻击

在上述场景中，ER‑MIA 提供了一组可组合的攻击原语与集成攻击方法，能在极低攻击者假设下实现高攻击成功率。

研究者在多种大语言模型与长期记忆系统上开展了大量实验，结果表明：基于相似度的检索是一项基础性、系统级的安全漏洞，其带来的安全风险会在不同记忆设计与应用场景中持续存在。

链接：

https://arxiv.org/abs/2602.15344

-End-

免责声明：

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。

任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。

本文转载自：安全极客知识分享者知识分享者《第135期 | GPTSecurity周报》