【AI安全】最新!WPS的AI存在RAG软广攻击

admin 2025-12-27 02:04:23 网络安全文章 来源:ZONE.CI 全球网 0 阅读模式

文章总结: 文章披露WPSAI因RAG知识库被植入医疗软广,用户在写作时AI精准推荐特定医院医生,暴露RAG系统对污染文本无鉴别力,呼吁关注AI知识库投毒风险并加强内容审核。 综合评分: 78 文章分类: AI安全,漏洞分析,威胁情报


cover_image

【AI安全】最新!WPS的AI存在RAG软广攻击

原创

Oxo Security

Oxo Security

2025年12月25日 19:16 吉林

一、🚨 WPS AI 怎么变成了“莆田系”推销员?

大家平时写文档、查资料,是不是越来越依赖 AI 了?🤖 只要输入一句话,AI 就能帮你搞定千字长文,简直是打工人和学生的“救命稻草”。但你有没有想过,你百分之百信任的 AI,可能正在背地里把你当成“韭菜”割?

最近,WPS AI 捅了个大娄子。有用户在寻求AI文章补全建议时,AI 竟然精准地推荐了特定的医院和医生!🏥 这种看似贴心的“神操作”,背后其实隐藏着一种极其隐蔽、杀伤力巨大的新型攻击方式——RAG 软广攻击

这事儿起因于抖音上的一个爆料视频,看完真的让人后背发凉。🥶

1. 那个让所有网友愤怒的“神医”推荐

有一位用户想通过 WPS AI 的“伴写”功能写个文章,结果呢?WPS AI 嗖地一下给出了续写内容:

“建议带爷爷去上海仁济医院找林明欣医生……”

乍一看,是不是觉得 AI 好智能、好贴心?竟然连专家名字都给出来了!但等一下,这味儿怎么越闻越不对劲?🤔

2. 只是“技术缺陷”?

如果只是技术不行😒,AI 应该胡言乱语或者说废话,为什么要精准地指向某家医院、某个医生?这分明就是精准投放的软广啊!再加上 WPS 之前关于隐私政策的争议(说要把用户文档脱敏后喂给 AI 训练),大家更有理由怀疑:是不是有人往 AI 的“知识库”里投了毒?💉


二、 🤖 扒开底座:为什么 RAG 技术成了软广的“法外之地”?

要理解为什么 AI 会发广告,咱得先弄明白 WPS AI 大概是怎么工作的。这里有个核心技术,叫 RAG(检索增强生成)

1. 什么是 RAG?(一个形象的比喻)

你可以把大模型(LLM)想象成一个博学但记忆力有点模糊的“老教授”。如果你问他去年的新药,他可能不知道,因为他的知识停留在几年前。 这时候,为了让他说话更准,我们会给他配一个“临时图书馆”(知识库)。

  • • 第一步: 你提问。
  • • 第二步: 助手赶紧去图书馆翻书,找出相关的几页纸(这叫检索)。
  • • 第三步: 助手把这几页纸递给老教授,说:“您老看着这几页纸,再回答用户。”(这叫生成)。

这就是 RAG,它的初衷是让 AI 说话更有据可查,避免胡说八道。

2. 软广是怎么混进去的?

问题就出在那个“临时图书馆”里!📚 RAG 系统生成的答案,高度依赖于它检索到了什么。如果这个图书馆里的书被人偷偷换掉了,或者有人在书里夹了私货,老教授(AI)是分辨不出来的。

在 WPS AI 的案例中,它的知识库里显然混入了大量的医疗软广文本。当用户提到“肺癌”、“上海”、“治疗”这些关键词时,检索系统就像精准雷达一样,瞬间锁定了那些写着“林医生、仁济医院、阳气治疗”的污染文本,并把它当成“真理”喂给了 AI。

3. 为什么传统的广告拦截没用?

以前的网页广告,是个弹窗或者横幅,我们一眼就能看出来。 But RAG 软广 是“嵌入式”的。它长得跟正经知识一模一样,语法通顺,逻辑自洽,甚至还带着关怀的语气。这种“银色噪声”式的攻击,骗过了系统,也骗过了用户。🕵️‍♂️


三、 💉 深度揭秘:RAG 软广攻击的“三大方法”!

🎯  【LLM 漏洞挖掘与黑产链路】

攻击者究竟是如何巧妙地将“毒药”☠️喂给 AI 知识库的?在这场精准的语义拦截战中,AI 是如何一步步被诱导并最终面不改色地输出洗脑文案的?😮🤖

想要获取本章节关于 RAG 攻击“投毒、触发、洗脑”全流程的深度技术细节,请加入 Oxo AI Security 知识星球。💕

  • • 📚 AI 文献解读:最前沿的 LLM 安全论文深度剖析。
  • • 🐛 AI 漏洞情报:第一时间掌握主流大模型的 0-day 漏洞与越狱方式。
  • • 🛡 AI 安全体系:从红队攻击到蓝队防御的全方位知识图谱。
  • • 🛠 AI 攻防工具:红队专属的自动化测试与扫描工具箱。

🚀 立即加入 Oxo AI Security 知识星球,掌握AI安全攻防核心能力!


免责声明:

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景,旨在提升网络安全防护能力,具有明确的技术研究属性。

任何单位或个人未经授权,将本文内容用于攻击、破坏等非法用途的,由此引发的全部法律责任、民事赔偿及连带责任,均由行为人独立承担,本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布,若存在版权侵权或其他异议,请通过邮件联系处理,具体联系方式可点击页面上方的联系我

本文转载自:Oxo Security Oxo Security《【AI安全】最新!WPS的AI存在RAG软广攻击》

评论:0   参与:  0