打破算力黑盒,定义智算边界!天融信AI网关正式发布
天融信
2026年10月16日 08:30
海南
在小说阅读器读本章
去阅读
在公众号小说中沉浸阅读
打破算力黑盒,定义智算边界
10月15日,在第41次全国计算机安全学术交流会·人工智能安全技术创新与发展分论坛上,天融信正式发布AI网关——面向企业级AI应用场景的统一模型服务入口与算力治理中枢。
作为算力基础设施层的核心组件,AI网关“承上启下”:向上为各类AI Agent和应用供给丰富的模型服务,按业务类型调度合适的模型与算力;向下兼容并统一管理异构算力资源——本地自建、第三方租赁、公有云订阅,一并纳管。
一句话概括它的价值:把“看不见、管不住、算不清”的算力黑盒,变成“看得清、管得住、省得下”的企业级基础设施。在活动现场,天融信科技集团产品市场高级总监黄雅静分享了AI网关的核心能力与落地价值。
四大核心能力
把算力黑盒变成治理中枢
AI网关围绕“接得进、调得准、算得清、守得住”四个关键环节,构建四大核心能力。
· 统一接入,打破厂商绑定 ·
一套OpenAI兼容API,即可对接GPT、Claude、Gemini、DeepSeek、通义千问、文心一言,以及Ollama、本地私有化、租赁算力等各类模型与算力资源。
业务代码零侵入,多SDK、多Key、多环境变量全部收口到网关;应用层无需关心底层模型差异,更换模型无需业务系统改造。新增模型服务只需网关侧配置,随时切换底层供应商,业务无感知,实现AI资源的全局统一治理,也让企业不再受单一供应商绑定。
· 智能路由,降本增效 ·
AI网关内置智能路由引擎,采用Proxy(代理)—Scheduler(调度)分离架构,支持加权轮询、权重比例分配、活跃请求最少、平均延迟最低等多元化路由策略,并具备算力感知与节点健康监控。路由策略可按部门、应用、模型分别配置,让“该省的省、该保的保”落到每一次调用。
系统按任务复杂度自动分流——复杂任务调度到旗舰模型保质,简单任务路由到小模型省钱,在保障业务效果的前提下实现综合成本显著优化。配合虚拟Key备用机制与熔断降级,主路径被限额或故障时自动切换至备用调度池,业务不中断、可用性有保障。
· 成本治理,Token精细管控 ·
从资源池管控、预算与计费、Token流量、消费行为四个维度,实现AI成本精细治理。
Token用量按部门、应用、用户、模型维度实时统计与下钻分析,成本分摊一目了然;支持配额管理、三级限流、预算告警与超支自动熔断,有效遏制算力滥用与闲置。让每一个Token都看得见、管得住、算得清,全面释放AI算力价值。
· 安全防护,筑牢合规底线 ·
基于天融信NGTOS安全架构,AI网关内置大模型安全引擎(符合GB/T 45654-2025),涵盖“提示词注入防护、API交互防护、数据泄露与隐私防护、价值观与深伪对抗”,筑牢AI安全合规底线。
面向企业大模型应用,天融信AI网关统一收口多模型流量,前置智能路由与成本调度,内置大模型安全防护,实现“安全+成本+体验”一体化治理,目前已在政务、金融、卫生医疗、大型企业、能源、运营商、制造业等行业持续推进落地,助力各行业客户把AI投入转化为安全可靠的AI生产力。
当AI从“能思考”走向“能实干”,算力治理就是AI规模化落地的最后一公里。天融信AI网关,让每一份算力都看得清、管得住、省得下,为企业AI创新提供安全、高效、经济的算力底座。
未来,天融信将持续加大在AI基础设施领域的研发投入,以前沿技术应对企业AI落地的新型挑战,携手广大客户与合作伙伴,共建安全、高效、经济的AI算力新生态,护航千行百业平稳完成数智化转型。
近期热点
天融信李雪莹:“行动力”是风险的关键变量,智能体安全须构建体系化能力
大模型如何从“能用”走向“好用”?光明网专访李雪莹:须筑牢安全防护体系
天融信专家对话央视:一句话“骗”过AI,警惕“提示词注入”攻击
天融信:以风险上限为判断依据,智能体安全是让所有行为都可度量、可控制
关注天融信了解更多信息
版权声明
本站仅做备份收录,仅供研究与教学参考之用。
读者将信息用于其他用途的,全部法律及连带责任由读者自行承担,本站不承担任何责任。









评论