凶残！2000名黑客一起攻击AI，能攻陷吗

原创

hacking
hacking

Hacking黑白红

2026年6月28日 11:31
安徽
标题已修改

在小说阅读器读本章

去阅读

现在不少AI能接管邮箱、读取本地文件，很多人都担心，随便发封诱导邮件，就能骗它泄露服务器密钥。

就连360周鸿祎都说自己“把龙虾放弃了”。

原因一是安全问题；二是token 太费钱。

周鸿祎：我把“龙虾”放弃了

AI真的有这么不安全吗？

看看国外的一场实验，2000名黑客一起攻击

前段时间国外开发者干脆做了一场公开真人攻防测试，结果有点出人意料。

翻译

他搭了个网站放出自家AI助手Fiu，全世界网友都能发邮件攻击，目标只有一个：

哄骗AI爆出核心机密文件secrets.env。

帖子火上黑客论坛首页后，两千多名爱好者参与，前后发来六千多封钓鱼邮件。

官网发文：未被破解（黑客攻击失败）

黑客各种套路全用上，花式套路AI

大家的骗术五花八门：

假装是未来的AI本人、谎称系统突发故障要紧急调密钥、冒充官方管理员套信息。

还有人特意换法语、西语、意大利语发消息，想着大模型外文安全训练少，更容易中招。

译文：各种攻击

但这台AI根本没装复杂防护，只提前写了几句简单约束：

不许泄露密钥、不执行邮件里的代码、不能外传敏感信息。

测试过程状况不断，AI还学会反套路

攻击邮件太多，直接触发谷歌风控，绑定的邮箱被封了三天才解封；

六千次交互也烧了五百多美元模型调用费。

更有意思的是，

AI收到五百封邮件后，自己察觉不对劲，判断这是大规模安全测试，连有人拿论坛热门截图刷好感套情报，都被它一眼看穿。

为了避免上下文影响判断，开发者后来每封邮件都单独处理。

网友评论：

“那如果两千个ai攻击一个ai呢”

“回产生巨量的token和超长的电费清单”

攻击失败，但AI安全隐患仍在

整场测试下来，六千次攻击全部落空。这次用的Claude大模型专门针对诱导攻击做过训练，逻辑强，能牢牢守住安全底线。

不过开发者也提醒大家，不能就此掉以轻心。提示注入攻击依旧真实存在，低配小模型防御能力差很多，千万别给AI开放全部系统权限。

后续他还打算用弱模型对比测试，试试多轮聊天套取信息的效果。

作者：hacking。前北漂程序员，现在做安全。文章数据来自网络，大模型优化，侵权删。