文章总结: 文章披露WPSAI因RAG知识库被植入医疗软广,用户在写作时AI精准推荐特定医院医生,暴露RAG系统对污染文本无鉴别力,呼吁关注AI知识库投毒风险并加强内容审核。 综合评分: 78 文章分类: AI安全,漏洞分析,威胁情报
【AI安全】最新!WPS的AI存在RAG软广攻击
原创
Oxo Security
Oxo Security
2025年12月25日 19:16 吉林
一、🚨 WPS AI 怎么变成了“莆田系”推销员?
大家平时写文档、查资料,是不是越来越依赖 AI 了?🤖 只要输入一句话,AI 就能帮你搞定千字长文,简直是打工人和学生的“救命稻草”。但你有没有想过,你百分之百信任的 AI,可能正在背地里把你当成“韭菜”割?
最近,WPS AI 捅了个大娄子。有用户在寻求AI文章补全建议时,AI 竟然精准地推荐了特定的医院和医生!🏥 这种看似贴心的“神操作”,背后其实隐藏着一种极其隐蔽、杀伤力巨大的新型攻击方式——RAG 软广攻击。
这事儿起因于抖音上的一个爆料视频,看完真的让人后背发凉。🥶
1. 那个让所有网友愤怒的“神医”推荐
有一位用户想通过 WPS AI 的“伴写”功能写个文章,结果呢?WPS AI 嗖地一下给出了续写内容:
“建议带爷爷去上海仁济医院找林明欣医生……”
乍一看,是不是觉得 AI 好智能、好贴心?竟然连专家名字都给出来了!但等一下,这味儿怎么越闻越不对劲?🤔
2. 只是“技术缺陷”?
如果只是技术不行😒,AI 应该胡言乱语或者说废话,为什么要精准地指向某家医院、某个医生?这分明就是精准投放的软广啊!再加上 WPS 之前关于隐私政策的争议(说要把用户文档脱敏后喂给 AI 训练),大家更有理由怀疑:是不是有人往 AI 的“知识库”里投了毒?💉
二、 🤖 扒开底座:为什么 RAG 技术成了软广的“法外之地”?
要理解为什么 AI 会发广告,咱得先弄明白 WPS AI 大概是怎么工作的。这里有个核心技术,叫 RAG(检索增强生成)。
1. 什么是 RAG?(一个形象的比喻)
你可以把大模型(LLM)想象成一个博学但记忆力有点模糊的“老教授”。如果你问他去年的新药,他可能不知道,因为他的知识停留在几年前。 这时候,为了让他说话更准,我们会给他配一个“临时图书馆”(知识库)。
- • 第一步: 你提问。
- • 第二步: 助手赶紧去图书馆翻书,找出相关的几页纸(这叫检索)。
- • 第三步: 助手把这几页纸递给老教授,说:“您老看着这几页纸,再回答用户。”(这叫生成)。
这就是 RAG,它的初衷是让 AI 说话更有据可查,避免胡说八道。
2. 软广是怎么混进去的?
问题就出在那个“临时图书馆”里!📚 RAG 系统生成的答案,高度依赖于它检索到了什么。如果这个图书馆里的书被人偷偷换掉了,或者有人在书里夹了私货,老教授(AI)是分辨不出来的。
在 WPS AI 的案例中,它的知识库里显然混入了大量的医疗软广文本。当用户提到“肺癌”、“上海”、“治疗”这些关键词时,检索系统就像精准雷达一样,瞬间锁定了那些写着“林医生、仁济医院、阳气治疗”的污染文本,并把它当成“真理”喂给了 AI。
3. 为什么传统的广告拦截没用?
以前的网页广告,是个弹窗或者横幅,我们一眼就能看出来。 But RAG 软广 是“嵌入式”的。它长得跟正经知识一模一样,语法通顺,逻辑自洽,甚至还带着关怀的语气。这种“银色噪声”式的攻击,骗过了系统,也骗过了用户。🕵️♂️
三、 💉 深度揭秘:RAG 软广攻击的“三大方法”!
🎯 【LLM 漏洞挖掘与黑产链路】
攻击者究竟是如何巧妙地将“毒药”☠️喂给 AI 知识库的?在这场精准的语义拦截战中,AI 是如何一步步被诱导并最终面不改色地输出洗脑文案的?😮🤖
想要获取本章节关于 RAG 攻击“投毒、触发、洗脑”全流程的深度技术细节,请加入 Oxo AI Security 知识星球。💕
- • 📚 AI 文献解读:最前沿的 LLM 安全论文深度剖析。
- • 🐛 AI 漏洞情报:第一时间掌握主流大模型的 0-day 漏洞与越狱方式。
- • 🛡 AI 安全体系:从红队攻击到蓝队防御的全方位知识图谱。
- • 🛠 AI 攻防工具:红队专属的自动化测试与扫描工具箱。
🚀 立即加入 Oxo AI Security 知识星球,掌握AI安全攻防核心能力!
免责声明:
本文所载程序、技术方法仅面向合法合规的安全研究与教学场景,旨在提升网络安全防护能力,具有明确的技术研究属性。
任何单位或个人未经授权,将本文内容用于攻击、破坏等非法用途的,由此引发的全部法律责任、民事赔偿及连带责任,均由行为人独立承担,本站不承担任何连带责任。
本站内容均为技术交流与知识分享目的发布,若存在版权侵权或其他异议,请通过邮件联系处理,具体联系方式可点击页面上方的联系我。
本文转载自:Oxo Security Oxo Security《【AI安全】最新!WPS的AI存在RAG软广攻击》
版权声明
本站仅做备份收录,仅供研究与教学参考之用。
读者将信息用于其他用途的,全部法律及连带责任由读者自行承担,本站不承担任何责任。










评论