招行CIO周天虹谈Token消耗与控制、AI投入与产出
点击关注->
点击关注->
智探AI应用
2026年6月26日 18:36
广东
在小说阅读器读本章
去阅读
6月25日,招行首席信息官(CIO)周天虹在2025年度股东会上,针对股东提出的“Uber案例反映出的Token消耗超预算问题”时表示,主要是由其科技部门将大模型用于编写代码导致,而非源于业务部门将大模型用于经营管理。
当前,大模型在编程方面已经发挥了很大的作用,比较确定的是——大模型的出现改变了软件研发的模式。但是,这方面也还有大量工作要做,还有基础性的问题有待解决。首先,大模型编写代码的成本极其高昂。其次,还有两个技术方面的问题:一是架构问题。大型软件的架构非常重要,而大模型的软件架构能力偏弱,是其短板。二是技术债问题。大模型编程写的功能性代码正确率已经很高,但仍会产生不同程度的技术债,主要包括“面条式”代码无法阅读、性能问题、安全问题等。以上这些问题,大模型编程还没有完全解决好。
当前,美国的头部公司也更加客观地看待大模型编程。去年以来,除了Uber以外,包括微软、亚马逊在内的美国头部公司,内部都有Token利用最大化的政策导向,还出现了一个词叫TokenMaxxing。现在这些公司都在纷纷反思这一政策,并进行调整。
招行内部的软件开发也在应用大模型技术。总体上,招行的态度是积极跟进、审慎应用。在这方面,招行的算力投入有限,从算力卡资源来看,招行用于大模型编程的算力投入在总算力中的占比只有约5%。业绩发布会上披露的Token消耗量数据,主要是来自业务部门的消耗,最新数据为截至5月底数据,日均Token消耗量已达到330亿,这是招行的业务单位在经营管理、服务中应用大模型消耗的Token量。
在针对股东提出的“如何做好Token预算控制”时,周天虹表示,去年招行提出了AI First的重要工作方向,在全行全面推广大模型应用。对于一家超过10万人的企业,全面推广大模型应用很容易出现一个问题:做了很多事,但实际业务成效并不高。
招行也看到了这一点。所以在提出AI First之前,就构建了相对完整的成本收益度量体系。成本方面,主要是两点:一是研发人员的投入,研发人员不仅包括科技条线的人员,也包括总行业务人员;二是Token成本。收益方面,招行建立了六个维度的度量体系,包括银行视角的四个维度和客户视角的两个维度。基于已建立的相对完整的成本收益度量体系,招行持续认真地做度量工作。
当前招行大模型的成本收入比,测算大概在20%上下,这是一个比较好的数据,即投入20元可以创造100元的收益。在成本收益度量方面,成本容易度量,主要因为招行多年来积累了一套比较细致的度量体系,数据质量也比较好;但收益度量则比较复杂,因为银行的价值链条本身就比较复杂。今年以来,招行进一步审视收益度量的算法、数据来源和数据质量,不断改进。
招行一直高度重视科技,2025年的科技总投入在130亿左右,总体盘子较大。目前,招行算力已初具规模,用于算力采购的投入在130亿中占比不算高,还有不小的空间可以加大AI算力投入。
在针对股东提出的“如何评价AI高投入和实际生产力提升、客户体验实质性产出的效果”时,周天虹表示,从两方面看。
首先,这一轮AI的核心突破是大语言模型的突破,可以说是颠覆性的技术突破。不论是科技行业里的行业领袖还是头部公司,大家一致认为大模型技术是工业革命级别的突破,当前还没有理由质疑。回顾历史上类似级别的技术突破,远的如蒸汽机、内燃机,近的如电脑、互联网,在技术突破后,从行业到社会发生变化需要一个过程。大模型技术诞生至今才三年多,因此,这一技术的突破导致行业和社会的改变还需要一些时间。
其次,招行对大模型技术一直高度重视,从未动摇。招行在AI领域耕耘了一段时间,也看到了一些效果。除前面提到的成本收益比外,还有一个重要的指标——AI贡献比,也即AI处理业务的对应工时和人类员工实际投入工时之比。去年底,这一指标数值是1:13.5,今年5月底已经提升到接近1:9,提升幅度不小。由此数据可以看出,大模型在招行正实实在在地发挥作用,但是在各业务领域存在不平衡的情况,总体来看在零售业务的部分领域已经可以看到比较明显的作用。
从技术本身看,大模型技术还在发展过程中,势头非常强劲。今年以来,无论是Foundation Model还是Agent技术都取得了比较好的突破。招行也在积极跟进,在各个领域深入推进大模型的应用,当前还保持着一定的强度。但同时也要看到,整个过程是比较复杂的。银行业是特殊行业,受到严格监管,客户对银行工作的严谨性也有非常高的要求,招行也在不断地检视、不断地改进。
在针对股东提出的“未来三到五年招行AI赋能数智化战略实施的量化目标和愿景”时,周天虹表示,招行有非常清晰的愿景——打造一家智能银行。但这还需要一些时间,也有非常高的复杂度。做这样复杂的事,全行都参与,动用很多资源,确实需要更精细的量化指标。招行现在已经有一些指标,目前,还在进一步细化和深化指标体系,这项工作还在推进过程中。
版权声明
本站仅做备份收录,仅供研究与教学参考之用。
读者将信息用于其他用途的,全部法律及连带责任由读者自行承担,本站不承担任何责任。











评论