文章总结: 腾讯朱雀实验室开源了AI安全自查工具A.I.G(AI-Infra-Guard),用于扫描AI基础设施、MCPServer、Agent工作流及模型越狱风险。它支持漏洞检测、恶意代码分析和模型指纹识别,部署简单(Docker一键启动),适合内部使用。建议AI服务使用者部署并扫描,以提升安全性。 综合评分: 80 文章分类: 安全工具,AI安全,漏洞分析,安全意识,安全建设
夯爆了!腾讯朱雀又开源了一个超硬核 AI 工具
原创
丛林 丛林
极客之家
2026年8月21日 12:09 山西
在小说阅读器读本章
去阅读
现在装 AI 相关的东西越来越容易了,Ollama、vLLM、ComfyUI,再加上各种 MCP Server 和 Agent Skill,基本上下载下来跑起来就开始用了,很少有人会多看一眼安全问题。我前两天翻到腾讯朱雀实验室开源的 A.I.G,就是做 AI 安全自查的,装了一套试了试,这篇一起分享一下。
这是什么
A.I.G 全名 AI-Infra-Guard,腾讯朱雀实验室做的,Apache 2.0 协议,免费用,目前 GitHub 上有4k Star。
它能干的事概括起来就一类,检查 AI 相关组件安不安全。大模型推理框架有没有已知漏洞、从网上下的 MCP Server 和 Skill 有没有问题、模型会不会被越狱攻击绕过去,这些它都能扫。
功能详情
AI 基础设施漏洞扫描
部署在本机或者内网的 AI 服务,比如 Ollama、vLLM、ComfyUI、n8n 这类,把地址填进去就能扫。它会先认出跑的是什么组件、什么版本,然后拿着这些信息去漏洞库里对一遍。
漏洞库里现在收了一百三十多个组件、两千多条规则。扫完会出一份报告,中了哪些漏洞、严重程度多高、修复建议是什么,都列出来了。
MCP Server 和 Skill 扫描
我们用 MCP 和 Skill 基本都是从网上随手下的,里面写了什么很少有人细看。这个功能支持扫本地源码,也可以直接填远程仓库地址,指令劫持、恶意代码、工具伪装这些风险都能查,一共覆盖九大类。不想装整套平台的话,它还有单独的命令行版本,pip 装一下就能用,挂在 CI 流程里也可以。
Agent 扫描
Dify、Coze 这类平台上跑的 Agent 工作流,它可以做安全评估。主要看工作流有没有失控的地方,比如权限被越过去、数据被带走这类问题。
任务完成后,报告页会展示完整的扫描结果与安全分析。
越狱评估
用现成的测试集去打我们自己部署的模型,看它会不会被诱导说出不该说的内容。单轮、多轮的攻击手法都有,几个模型的结果也可以放在一起对比。模型上线之前自己先测一遍,总比上线之后被用户发现问题强。
模型和 API 检测
现在很多人买的是模型调用服务,卖家说背后是某个大模型,实际跑的是什么没人知道。这个功能可以做模型指纹识别,帮我们看看我们实际用的底层模型到底是不是它声称的那个。
快速开始
机器要求不高,Docker 20.10 以上,4G 内存、10G 磁盘就够了,普通开发机都能跑。
我装的时候用的 Docker,先把仓库拉下来,然后一条命令把服务起起来:
git clone https://github.com/Tencent/AI-Infra-Guard.git
cd AI-Infra-Guard
# 从 Docker Hub 拉预构建好的镜像,比较快
docker-compose -f docker-compose.images.yml up -d
如果机器上连 Docker 都没装,官方还有一个一键脚本,会自动装好 Docker 再把服务启动:
curl https://raw.githubusercontent.com/Tencent/AI-Infra-Guard/refs/heads/main/docker.sh | bash
想从源码构建的话,把上面第二条命令换成 docker-compose up -d 就行,会在本地构建镜像。另外注意一下,新版 Docker 的 compose 命令是 docker compose,中间没有短横线。
服务起来以后,浏览器打开 http://localhost:8088 就能看到界面了。
接下来就是新建任务、选扫描类型、填目标地址。这里有个容易搞错的地方,AI 基础设施扫描那里填的是正在运行的服务的地址,不是 GitHub 链接。
比如我本地起了个 vLLM,就填 http://127.0.0.1:8000;要扫内网的 Ollama,就填类似 http://192.168.1.100:11434 这样的地址。它还支持填网段,像 192.168.1.0/24 或者 10.0.0.1-10.0.0.20,可以一次扫一批机器。
MCP 和 Skill 扫描正好反过来,不用服务在跑,直接填 GitHub 仓库地址,或者把源码打包上传上去就行。
要做越狱评估的话,先在「设置 → 模型配置」里把目标模型的 API 地址和 Key 填好,然后选一个评估数据集就可以开始了。
有一点要专门说一下,官方明确写了这个平台目前没有鉴权机制,定位就是企业内部或者个人内部使用,所以咱们部署完别直接暴露到公网,扫描也只扫自己的服务。
使用场景
我自己觉得下面几种情况可以用上:
- • 服务器上跑着 Ollama、vLLM、ComfyUI 这类服务,想知道有没有已知漏洞
- • 从社区下载了别人写的 MCP Server 或者 Skill,用之前先过一遍
- • 模型上线之前做一次越狱评估
- • 团队在用 Dify、Coze 搭 Agent 工作流,上线之前检查一下
- • 买了 API 服务,想验证一下模型是不是真的
我的看法
说实话,以前安全扫描这块基本是大厂自己在做,普通开发者想给自己的 AI 服务检查一下,要么买商业产品,要么就算了。A.I.G 这种开源项目把门槛拉低了不少,装个 Docker 就能跑,出来的报告也写得清楚,大概能看出问题在哪、该怎么修。
它也有局限,扫 MCP 和 Skill 的时候要配模型的 API,识别效果跟用的模型能力有关系。没有鉴权这一点,也就只适合放在内网用,这一点官方自己也说明了。
我的建议是,手里跑着 AI 服务的,或者从社区下过 MCP、Skill 的,可以抽空扫一遍,花不了多少时间。反正装一次也就一条命令的事,扫完心里有个数。
开源地址
https://github.com/Tencent/AI-Infra-Guard
点击下方卡片,关注极客之家
这个公众号长期分享实用开源项目。如果你不想逐篇翻阅历史文章,可以直接关注微信公众号“极客之家”,通过后台留言与我们互动交流。
免责声明:
本文所载程序、技术方法仅面向合法合规的安全研究与教学场景,旨在提升网络安全防护能力,具有明确的技术研究属性。
任何单位或个人未经授权,将本文内容用于攻击、破坏等非法用途的,由此引发的全部法律责任、民事赔偿及连带责任,均由行为人独立承担,本站不承担任何连带责任。
本站内容均为技术交流与知识分享目的发布,若存在版权侵权或其他异议,请通过邮件联系处理,具体联系方式可点击页面上方的联系我。
本文转载自:极客之家 丛林 丛林《夯爆了!腾讯朱雀又开源了一个超硬核 AI 工具》
版权声明
本站仅做备份收录,仅供研究与教学参考之用。
读者将信息用于其他用途的,全部法律及连带责任由读者自行承担,本站不承担任何责任。











评论