大模型+AI Agent双管控：深安AI Gateway上线！

原创

deepsec
deepsec

深安安全

2026年6月22日 19:21
江苏

在小说阅读器读本章

去阅读

AI Gateway

（

登录上线

）

随着大模型、AI Agent深度落地企业业务，不少团队陷入双重管理困境：多厂商LLM密钥散落极易泄露、模型调用费用无上限持续超支、API交互缺少审计无法合规；而自主执行任务的AI Agent更是新增治理盲区——工具调用行为看不见、高危指令拦不住、异常操作无预警，一旦失控极易引发数据泄露、系统损坏等重大风险。

深安科技AI Gateway，企业级LLM API与AI Agent审计管理平台，以统一管控、成本透明、安全合规、Agent治理、效率提升五大核心能力，打通传统大模型流量治理与新一代智能体安全管控，构建覆盖API层+Agent层的全链路AI治理底座，彻底解决企业规模化使用AI的各类痛点。

企业落地大模型&AI Agent

五大核心痛点亟待解决

传统LLM

调用四大顽疾

）

01

01 ）

密钥分散存放，泄露风险居高不下

厂商原始API密钥散落在代码、配置文件、办公文档中，无统一加密托管。员工离职、岗位交接时密钥依靠人工回收，极易出现遗忘、截留、被盗刷，企业AI核心资产随时面临流失风险。

02 ）

调用成本黑盒，IT预算持续膨胀

缺少统一流量监控，各部门、项目无额度限制，Token消耗无序增长。管理者无法拆分各业务线费用明细，月度账单突发暴涨，成本无法追溯、分摊，预算管控形同虚设。

03）

权限管控粗糙，高价值模型资源滥用

无精细化RBAC权限体系，测试任务随意占用高性能付费模型，核心业务接口算力不足、响应延迟，优质AI资源严重浪费，研发业务效率大幅下降。

04 ）

交互无审计日志，合规存在巨大空白

大模型输入、输出全程无日志留存，一旦发生隐私、企业机密泄露、违规内容输出，无法定位调用人员、操作链路，企业将承担法律诉讼与品牌声誉双重损失。

AI Agent时代

新增四大安全盲区

）

02

当智能体具备自主调用工具、执行任务能力后，传统网关监控彻底失效，衍生全新风险：

• 行为完全不可见：Agent工具调用行为隐藏在大模型返回内容中，无完整审计轨迹，操作全程黑盒；
• 高危行为不可控：受模型幻觉、外部诱导，Agent可能执行删库、修改系统文件等危险操作，传统方案无法拦截；
• 风险无法提前预警：无法建立Agent正常行为基线，非工作时段批量操作、陌生工具调用等异常行为难以识别；
• 合规审计全面缺位：缺少完整Agent操作日志，金融、医疗、政务等强监管行业无法满足审计举证要求。

产品定位

从LLM流量管理升级为全维度AI能力治理

产品简介

深安AI Gateway是面向企业打造的全生命周期LLM API与AI Agent一体化管理平台，打破传统网关仅管控模型接口流量的局限，治理边界延伸至AI智能体任务执行全流程。

三大核心价值支柱

（

全链路防护

任务级管控

行为化洞察

）

核心价值升级：从单一API流量管理，升级为企业AI能力、智能体任务的全方位综合治理，搭建安全防线、精细化控费体系、多维行为分析能力，为企业AI规模化落地筑牢安全与效能双重基石。

六大核心功能矩阵

覆盖API与Agent全场景治理

01

虚拟密钥全生命周期托管，根除密钥泄露隐患

传统痛点

原生密钥明文存放于代码、本地环境，服务器入侵、代码外泄将直接造成密钥被盗；人员变动依靠人工回收密钥，流程繁琐易遗漏。

平台核心优势

• 集中化密钥托管中心，支持虚拟密钥生成、分发、自动轮换、一键销毁全流程自动化；
• 密钥绑定部门、项目、员工，权责到人，成本分摊、安全溯源清晰可查；
• 异常账号、离职人员后台一键撤销密钥，权限即时生效，无同步延迟；
• 员工自助申领虚拟密钥，自动化流程减少人工运维审批；
• 底层采用AES-256-GCM高强度加密，密钥创建、传输、存储全链路加密防护。

02

20+主流模型统一路由，低成本多厂商兼容

采用透明代理转发架构，无需修改存量业务代码，内置全主流大模型厂商预设配置：

1. 虚拟密钥与指定模型厂商绑定，请求精准定向转发；
2. 纯透明转发不改动请求、响应协议，完美兼容各类LLM接口；
3. 标准化统一接入入口，企业可灵活切换底层模型，大幅降低迁移、改造成本。

03

三层四维精细化配额管控，从源头锁住AI成本

搭建部门总额-人员额度-应用独立配额三级管控架构，搭配日/月Token总量、日/月费用支出四维双重限制：

• 灵活配置超限策略：超额请求支持直接拦截或仅告警记录，平衡成本管控与业务连续性；
• 隔离资源占用，限制低优先级测试业务抢占高性能付费模型，保障核心业务算力稳定；
• 实时用量监控，费用突增自动预警，杜绝月底账单突发超支。

04

部门级穿透式用量分析，AI成本彻底透明化

平台内置实时可视化监控大盘，自动采集全量调用日志，多维度数据一目了然：

1. 全局总览：总Token消耗、当日费用、7日费用趋势，异常成本波动实时推送预警；
2. 部门消耗排行榜：直观展示各业务线费用占比、预算使用率，快速定位高消耗单元；
3. 逐层下钻分析：从部门拆解至员工、应用、接口，精准识别低效、冗余调用，指导企业针对性降本；
4. 自动生成分部门账单，支撑内部成本核算、绩效考核。

05

实时数据安全检测，筑牢交互敏感信息防线

对大模型Prompt输入、模型输出内容全量实时扫描，构建事前预防、事中拦截、事后追溯的安全闭环：

• 精准识别身份证、银行卡、企业机密等各类敏感信息；
• 支持自定义敏感词库、正则表达式，适配金融、政务、制造等行业合规规则；
• 灵活检测范围：仅检测请求、仅检测响应、双向全量检测三种模式自由切换；
• 风险双处置机制：实时阻断违规内容/仅日志留存告警，兼顾安全管控与业务运转。

06

AI Agent全流程行为治理，解决智能体失控难题

针对新一代AI智能体专属打造四大治理能力，实现Agent看得见、管得住、早预警：

• 全量行为审计

完整捕获每一次Agent工具调用指令、参数、执行结果，按会话归组还原完整操作轨迹，无监控盲区，为安全排查、合规审计提供完整凭证。

• 策略管控引擎

支持工具黑白名单、调用频率限制、时段访问控制、高危指令拦截；实现上行（请求前置拦截）、下行（指令执行前拦截）双向防护，阻断rm-rf、数据库删除等危险操作；规则支持热更新，无需重启服务即时生效。

• 工具资产治理

自动盘点企业全部Agent调用工具，划分低/中/高/严重四级风险等级，按业务场景分组管理，实现工具资产可视化全生命周期管控。

• 机器学习智能异常检测

自动学习构建Agent正常行为基线，实时识别新工具调用、调用量突增、非工作时段批量操作等偏离基线行为，主动推送风险告警，将被动防御转为主动防控；管理员反馈持续优化模型识别精度。

安全合规体系

满足等保与行业监管要求

01 ）

多层加密与权限隔离防护

• 加密机制：密钥全链路AES-256-GCM加密存储、传输，全程行为审计；
• 隔离原则：遵循最小权限，开发/生产环境、租户、部门多层数据隔离；
• 权限管控：细粒度访问策略，密钥变更、配额调整、Agent策略修改全部留痕，杜绝越权访问。

02 ）

全链路完整审计追溯

每一次LLM调用、每一条Agent工具操作全量记录，覆盖身份、请求内容、模型、Token消耗、费用、工具、执行结果八大维度信息：

• 支持时间、部门、关键词、Agent、工具多维度全文检索；
• 日志按月归档长期存储，满足行业数据留存合规规范；
• 安全事件一键溯源，完整还原操作链路、定位责任人，合规举证有据可依。

灵活双模式部署

极简运维降低落地门槛

1. 公有云部署：一键部署脚本、配置热加载、进程自动守护，免运维、极速上线，中小企业轻量化首选；
2. 私有化本地部署：所有流量、日志、Agent操作数据本地留存，数据不出内网，适配金融、政企、医疗等强合规场景；

配套运维能力：进程自愈、全链路日志排障、资源实时监控、异常告警、系统自动更新，大幅减少运维人力投入。

落地AI Gateway

企业收获全方位 AI 治理价值

企业AI

双重困境

）

过去

1. 成本黑洞：模型调用无上限，月度账单不可预测，各业务线费用无法精准分摊；
2. 安全裸奔：密钥随意流转、LLM交互无审计，新增Agent行为黑盒，高危操作无法拦截；
3. 合规举证难：缺少完整调用、智能体操作日志，监管审查无法提供有效凭证；
4. 运维低效：密钥开通、配额调整、Agent权限配置全人工操作，流程冗长拖累业务迭代。

一体化平台

全面掌控

）

现在

1. 成本可控可核算：三层四维配额限流+实时费用预警，自动分部门分摊账单，AI投入ROI清晰量化；
2. 双重安全防护：虚拟密钥规避泄露风险，敏感信息实时拦截；Agent全流程管控，杜绝智能体高危操作；
3. 合规全链路闭环：LLM+Agent双维度完整审计日志，满足等保、各行业监管留存要求；
4. 运维效率大幅提升：密钥自助申领、可视化统一后台、策略热更新，释放运维人力聚焦业务创新。

总结

大模型与AI Agent规模化落地已成企业数字化标配，但成本失控、数据泄露、合规缺失、智能体失控四大风险始终制约业务发展。

南京深安AI Gateway打破传统网关仅管控LLM接口的局限，打通API流量治理与AI Agent行为安全两大场景，构建统一、完整、可落地的企业AI全链路治理体系，助力企业安全、可控、可量化释放大模型与智能体业务价值。