大模型投毒怎么投毒?GEO到底是个啥?

admin 2026-03-27 01:14:27 网络安全文章 来源:ZONE.CI 全球网 0 阅读模式

文章总结: 本文深入探讨GEO(大模型投毒)的本质、操作手法及潜在风险,指出其通过自媒体矩阵灌水干扰AI搜索结果,可能导致虚假宣传、不正当竞争等法律问题,呼吁大模型厂商建立信誉体系并加强监管。 综合评分: 78 文章分类: AI安全,网络安全,威胁情报,解决方案,社会工程学


cover_image

大模型投毒怎么投毒?GEO到底是个啥?

原创

曲子龙 曲子龙

网络尖刀

2026年3月16日 18:22 四川

封面生成基于Qwen-Image

终于,通过央视把大模型投毒送到了大家的眼里,作为一个安全从业者,23年开始我们就频繁的尝试去测试干扰国内外各模型的数据,后面直到去年我们自己做了新产品需要一些品宣和曝光,有很长一段时间也在朋友圈发过,我们如何优化这些内容,得到哪些结果。

这本来是一种迈一步的优化逻辑,但是到了一些“胆子大”的面前自然就变成了一种“野蛮式”的生意:

  • 假的说成真的;
  • 差的说成好的;
  • 三无产品说成权威的;
  • …..

妖魔化的所谓GEO服务商,凭借着信息不透明的关系,为了实现利益最大化什么都接,滥用技术的手段逐渐把它带向离谱的方向,成为了“灰黑产”、“不法分子”、“不良商家”的帮手。

后面就是大家看到的这样,它终于以这样的方式和大家见面了,昨天播出后收到了很多从业者、记者、敏感单位的朋友各种询问,今天刚好出差结束有点空,索性简单和大家唠唠这个事情。

什么是GEO

GEO(Generative Engine Optimization)这名字最早其实出现在一篇论文中是一个学术层的技术探讨,作为一位安全从业者,我最初对它的名字定义一直都是“大模型投毒”。

它的本质就是通过一些特定的技术手段,对大模型的AI搜索引擎进行结果干扰的一种行为。

欺骗大模型的搜索结果,让虚假不存在的东西变成全网最好的,让三五产品变成权威的….它投递的自然就是毒。

如何GEO

目前这个阶段,GEO的门槛是特别低的,它广泛依赖于大模型的AI搜索引擎在接收到用户提问时,需要通过AI搜索引擎去爬取内容这一行为,进行结果干扰,最基础的自然就是“自媒体”类的内容干扰。

文心有百家号、元宝有微信公众号、豆包有抖音和今日头条、千问有UC、夸克….

当各家大模型厂商在构建大模型时优先训练自有内容时,就留下了这个隐患。

说白了,对于不懂技术的普通企业来说,只要你到各自媒体申请足够的账号,每天发布自己的产品,就有一定概率被大模型收录和引用到。

当然,大模型也是有原则的,它对内容也是有一定要求的,比如的内容的结构化是否满足大模型的索引需求,产品内容是否齐全能够与用户的提问完美匹配….这里面有一套很简单的方法论,只要遵循这样的方法论,基本都能搞定。

所以这也是为什么丁大点公司都能摇身一变成为GEO公司,大部分的GEO服务商其实就是之前那些外包的小营销公司转化而来的,而所谓的核心技术,大部分也都是各种GEO服务商互相拉踩的手段罢了。

抛开对内容结构输出的方法论不谈,市场上的GEO服务公司基本都是依赖于矩阵式自媒体灌水大力出奇迹来接单服务的。

今天时间太赶了,一会儿要着急出去干饭,空了我会把这些基础的GEO方法录制成教程发出来(我也下手狠一点收个188吧?)。

GEO真的有用吗?

新技术的出现一定是有用的,但是不是对谁都有用,相比传统的SEO只需要在搜索引擎命中关键词就能够获得流量转化,GEO它并不能直接产生流量转化,而是在对话框里对品牌进行优劣对比和推荐。

用户向AI提问某个产品时会有两种问法:

一种是XX产品,怎么样;

一种是XX产品,哪个品牌最好;

第一种,按大模型的流程就会对该产品的说明书进行讲解,毕竟说明书有限无法完整的还原产品的全貌,通过GEO把该产品的优点补充进来,自然能够促成更好的成交。

第二种,作为“老好人”大模型会在多个产品中,根据产品的属性优劣势进行综合对比,这个时候GEO不但要把产品的优势体现出来,还要让产品能在几百个甚至几千个品牌下脱颖而出,在综合能力下PK掉其它的品牌。

GEO并不能带来直接流量收益,而行业产品与产品之间的品牌之争,对自己的品牌正常的优化完全没问题,核心问题都处在滥用技术干拉踩、虚假、作弊的问题上,不用过度紧张。

GEO的风险在哪?

正常的情况下,大模型会按照产品参数横向一对一对比,那自然就会出现比不过的情况。

GEO的出现则让很多品牌方动起了歪心思,通过第三方媒体商业稿件+自媒体内容覆盖,超脱于产品说明书本身虚假承诺说明书之外的内容就变成了一门生意。

更有甚者,为了提高自己的产品竞争力,自然就需要各种PK的拉踩,于是它就回到了我们熟知的另外一个词汇——“水军”。

为了能够大量对AI进行结果干扰,自然就要在各种平台控制大量的自媒体账户,批量生产内容矩阵式的向各内容平台不断创建内容。

那么从法律的角度来看,提供系统和平台的公司,基本按“网络水军”的法律法规对标肯定是没有问题的。

至于购买服务的商家,如果创建出来的内容和实际产品严重不符的,那么基本就可以按“虚假宣传”和“诈骗”来看待,如若还存在对竞品的拉踩行为,自然也就构成了“不正当竞争”。

目前看来GEO服务商的责任一定是相对较重的。

当然这些服务商也不傻,他们虽然和你商务对接时会吹的天花乱坠,但是真正落地合作的时候,大部分公司会把服务的价格弄的很低每个月付个几百几千块这种,在从合同把它做成“人工服务费”,其实从他们做这个业务开始就已经知道了这方面的风险,直接用人力成本计算公式来规避这些问题。

深度思考

目前来说,AI还没有真正“闯下大祸”,作为相对的新事物,对于它的法律法规约束自然还是没有完善起来。

虽然每家大模型都给出了“仅作为参考意见”的提示,那么AI给出错了答案,造成人身心、财产真正受到损害时,真的不用负责吗?

单从大模型的角度来说,倒也说得过去,但是如果这个内容是被GEO后恶意干扰的呢?

随便没什么门槛都能干扰大模型的结果,说句难听的,迟早会有“大模型版本的魏则西”,显然各大模型厂商从安全监管方面自然应该扛起来这个责任。

建立完善的信誉体系,很容易就能解决这些问题,但是目前来看大部分的厂商不是不会做,而是都没在这里投入太大的精力。

写在最后

本来想写很多内容,但是315刚过还有一些事情在收尾,略微有点耽搁没办法沉下心写长篇大论,技术的本身没有问题,核心还是滥用的人。

既然提出了大模型投毒这个事,因为研究的比较早,自然思考的也确实比较多,多到了超出了自己的身份的能力范围:

大模型厂商如何建立信誉体系?

监管单位如何对其监管?

普通企业正常优化又如何合规?

….

接下来我会抽空连载一些内容说明,年前就说开始研究各行各业的流量获取、怎么玩流量,本想准备好再做分享,奈何这次选题选上了,之前又参加几个会耽搁了一些事情的进度,本想更个几十条内容再开放现在看来确实来不及,就先把这个知识星球放出来,对玩流量感兴趣的欢迎加入,有什么问题也可以随时在这里和我互动。

是的,我成立了一个专门研究互联网拓客、营销、获取流量的知识星球,它将是我今年第一个运营的品牌,简单粗暴我把它取名叫做:

玩量。

这里不定期的会对前沿技术、小众的一些方式方法进行分享,欢迎感兴趣的朋友扫描下面的二维码加入。


免责声明:

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景,旨在提升网络安全防护能力,具有明确的技术研究属性。

任何单位或个人未经授权,将本文内容用于攻击、破坏等非法用途的,由此引发的全部法律责任、民事赔偿及连带责任,均由行为人独立承担,本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布,若存在版权侵权或其他异议,请通过邮件联系处理,具体联系方式可点击页面上方的联系我

本文转载自:网络尖刀 曲子龙 曲子龙《大模型投毒怎么投毒?GEO到底是个啥?》

评论:0   参与:  0