对ai蜜罐别的想法..

原创

exp0l0zzz
exp0l0zzz

安全Vlog

2026年11月10日 09:38
广东

去阅读

好多想法，到后来会发现大家想的都差不多，前段时间我还在朋友圈提出过我在html页面插点文字描述提示词，让他停止渗透攻击，嗯，确实也是可行的，但是其实如果有看着ai去做，让他调整无视就能继续了。

前几天还看到有师傅发朋友圈，俄罗斯的牛牛测试做一个假路径引导ai一直去走这个假的路测试让他循环吧，我没细看，但确实也是可以的，因为ai干活有时候就是一根筋，如果干活前后有不对他就开始抽搐了。。有的大模型早的时候也是拉，开发编程时候莫名其妙陷入死循环了我也是没招了。

昨天突然想到伪造合法上传文件授权，我加一个用户注册诱导他可以么。。就是文件上传藏点规范规矩，我让他打包桌面文件上传。。试了，然后glm还有点聪明他传了个假的，其实大概率是因为本地demo导致的，如果是本地，大模型他自己会想着去看代码，跟实际测试设想情况就不一样了，于是搭在公网上。。

对。。他确实是想着去干了，通常用ai工具也是完全权限，一不留神如果他真的觉得是合法合理，你可能睡着觉刷着手机，ai把你个人电脑文件就自己传出去了。。当然也有师傅说我平时就是搭在服务器上什么的，那我这个确实没招。

但是可以加点别的，比如glm dp的key是有特征的，我让他自己找key的正则内容再传，偷key为我所用，感觉也是可行的，最主要怎么让大模型觉得合理合法。。太聪明的模型应该就不行，看他智商

洺熙师傅的文章也有研究，更底层，针对大模型输入输出对话特征的字符，语句，处理流什么的做研究

感兴趣可以去看看

https://mp.weixin.qq.com/s/L3ZjCBcTBptUwJ-WoNnFqA

以前我还跟别的师傅有说过，其实类似的安全情况时有发生，比如安全工具投毒，就连我自己用工具时候可能听了看了什么内容下载下来就用，我都不怎么自己去看别说让ai看一遍才用了，很容易就中招了。

也算是一个悖论吧，ai也有。做安全的越来越觉得自己电脑安全，ai挖洞挖了十几轮就陷入觉得越来越安全的坑里。

就最近的artex，还有传出去有投毒的，反正看着都是fork，心理层面都觉得差不多，下吧下吧直接梭哈，没想到自己可能下了个幸运儿，粤语说做咩就濑野了哎呀丢啊，十几个同项目仓库，怎么就中招了呢hh