银行AI的风险,从来不在它说了什么
原创
网易智企-易盾
网易智企-易盾
网易智企-易盾
2026年11月10日 18:00
浙江
去阅读
近日,在亚洲金融合作联盟走进华为活动上,网易智企作为华为“全球金融伙伴融海计划”成员,受邀进行了主题宣讲。网易智企副总经理,易盾业务负责人朱浩齐围绕金融机构 AI 安全治理,分享了从风险识别、技术防护到业务治理的一套完整思路。
分享中,有三个场景值得关注。
左右滑动查看更多
从说错话,到泄露数据,再到突破权限边界,三个场景揭示了 AI 风险正在发生的变化。
当 AI 开始拥有执行力,风险的边界也发生了转变。
这正是朱浩齐此次分享的核心判断:金融 AI 的安全治理,正在从管住模型的回答,走向管住 AI 的行为。
当风险进入业务流程
银行对 AI 的应用,正在从一个提升效率的辅助工具,变成业务流程中的实际参与者。
随之而来的,是风险形态的变化。
国家互联网应急中心《2026年人工智能大模型安全众测结果》显示,54款产品、25家厂商共发现873个漏洞,其中608个属于大模型与智能体特有漏洞,占比69.6%。提示注入、信息泄露、越权操作、目标劫持等问题,正在成为 AI 应用安全的新挑战。
过去,银行需要防范的是人通过系统做错事;现在,还需要防范 AI 在没有充分约束的情况下替人做错事。
这意味着,金融机构的安全防线必须跟着 AI 的能力边界一起延伸。
AI 安全防线
监管层面,金融机构 AI 应用的安全治理要求也在进一步明确。
金发〔2026〕8号文提出了两项值得重点关注的要求:一是明确责任机制,高风险 AI 应用需经本机构风险管理委员会批准;二是在资金交易、信贷审批等场景保留人工干预与熔断机制。
那么,一家银行应该如何建立自己的 AI 安全防线?
朱浩齐提出,可以从治理机制、技术防护和业务适配三个层面展开。
第一层:治理机制,让 AI 应用先有准入标准。
首先要摸清家底:银行内部究竟有哪些 AI 应用?到了什么阶段?
在此基础上,根据业务场景和风险等级进行分类管理,优先关注已经上线和即将对客的应用。
对于高风险 AI 应用,上线前的安全评测与攻击验证,可以为准入审批提供重要参考,帮助银行提前识别潜在风险。
第二层:技术防护,让风险在发生前被识别和拦截。
技术防护需要覆盖 AI 的输入、输出和执行全过程。
在输入侧,识别恶意内容,必要时进行安全代答或拦截;在输出侧,对 AI 生成的文本进行合规检测,将违规话术拦截在抵达客户之前。
而对于 Agent,还需要进一步向执行环节延伸:通过风险扫描、意图比对、高危操作拦截和分级处置,约束智能体的行为边界,并对关键操作进行全程留痕与审计追溯。
第三层:业务适配,让安全规则真正理解银行。
这一层,也是金融 AI 安全治理中最考验专业能力的部分。
因为技术可以识别风险,但什么才是银行业务中的风险,需要结合具体业务规则来判断。
让 AI 理解银行规则
涉政、色情、广告法等通用风险,可以通过标准化能力识别。但违规吸存、理财误导、信贷营销等问题,必须结合银行自身的业务规则和合规要求判断。
因此,金融 AI 安全需要明确分工:安全厂商提供技术能力,银行定义业务规则与风险边界。
易盾通过策略专家协助银行梳理业务场景,将行业通用策略与银行内部规范结合,形成可落地的安全策略。同时,由业务、科技、风控合规及内审等部门协同,明确 AI 应用的管理责任。
朱浩齐打了一个比方:AI 就像一个能力很强、但还不懂规矩的应届生。 它可以快速完成任务,但必须明确哪些事能做、哪些权限不能碰,以及出了问题如何追溯。
从内容审核到行为治理
在实践中,金融机构的 AI 安全建设已呈现出不同阶段。
某国有银行建设全模态内容安全中台,覆盖文本、图片、视频,并对 Prompt 和 AI 生成内容进行专项审核。项目落地后,数据识别准确率达99%+,风险下降70%+,人工审核效率提升2倍以上。
某头部证券公司进一步将安全能力延伸至智能体行为治理,建立「评—防—管」闭环:上架前通过107+条规则、14类风险进行自动化评测;运行中进行意图比对与高危操作拦截;管理端通过集团级 SkillHub 实现统一上架、版本准入和审计追溯。
从易盾对170家银行的统计来看,6大国有银行、12家股份制银行均已启动大模型安全围栏建设;万亿以上城商行启动比例为75%,万亿以下城商行为16%,省级农信机构为23%。
对于资源有限的银行,朱浩齐建议从客户和员工使用的文本场景切入,先夯实内容安全,再逐步扩展至语音、视频和 Agent。通过分阶段建设,逐步形成覆盖更多业务场景的安全能力。
让 AI 每一步都有边界
从说错话、泄露数据,到越权执行,金融 AI 面临的风险正在从内容延伸至行为。
当 AI 开始调用工具、访问数据、执行任务,银行需要关注的,已经不只是它说了什么,还有它能做什么、是否有权限,以及每一步能否追溯。
AI 的能力边界在不断扩大,金融安全的治理边界也必须同步延伸。
让每一次输入可识别、每一次输出可审核、每一次执行可约束、每一个关键操作可追溯。
这既是金融机构拥抱 AI 的前提,也是 AI 真正走进核心业务的基础。
参考资料来源:国家互联网应急中心《2026年人工智能大模型安全众测结果》。
网易智企#易盾#朱浩齐#AI安全#金融AI
-END-
活动推荐
作为网易旗下一站式企业 AI 应用服务提供商,网易智企倾力打造企业 AI 实战栏目——「AI 实战派」,聚焦 AI 在真实业务中的落地应用,通过实战教学、案例拆解、研讨交流等多元形式,将前沿的 AI 技术转化为真实的业务动能,为企业管理者、业务决策者和一线实践者提供可迁移、可复用的实战方法论与深度洞察。
关于我们
免费下载干货资料
版权声明
本站仅做备份收录,仅供研究与教学参考之用。
读者将信息用于其他用途的,全部法律及连带责任由读者自行承担,本站不承担任何责任。










评论