半岛彩票9月7日,在2023腾讯全球数字生态大会上,腾讯混元大模型正式对外亮相。全链路自主研发的腾讯混元大模型源自实践、面向应用而生,未来也将把大模型技术用到实践中去,为千行百业持续创造价值。
金融,是AI大模型的重要应用场景之一。金融机构目前在AI大模型的应用现状如何?主要的应用场景有哪些?就此,中国基金报记者采访了金融行业解决方案负责人、腾讯云副总裁胡利明。
胡利明:本轮AI大模型热潮给包括金融行业在内的各行各业都带来了深远的影响。AI大模型通过大规模的参数和预训练技术,使得AI具备了比过去更强大的理解能力和表达能力,因此应用场景非常广泛。
对于金融机构而言,善用AI大模型,就相当于配备了一群不限数量的优秀“大学毕业生”,可以快速学习各个金融领域的专业知识,并服务行业不同的场景。再叠加金融机构在不同应用场景的专业能力,经过不断训练,AI大模型甚至可以成为金融业各个领域的“专家”。
胡利明:云厂商可为各行各业输出作为基础设施的云计算和相关组件,以及AI的模型能力及应用能力。如果说云计算和相关技术组件的能力,是像水、电一样的基础设施,那么人工智能的模型能力及应用能力,则是加载在这个基础设施上的,能够直接满足业务需求、直接对业务产生效应的程序。
AIGC的火爆带来AI大模型参数量从亿级到万亿级的飙升。众所周知,GPU服务器及资源的成本是非常昂贵的。在基础设施层面,腾讯云一方面可为金融机构提供虚拟化GPU。鉴于单个金融机构对算力的调度效率不高,腾讯云通过对GPU进行虚拟化拆分和调度,能够帮助金融机构降本增效。另一方面,GPU在使用过程中故障的发现和定位也非常影响算力资源池的使用,在这方面腾讯云也有深厚的积累,可向金融机构输出。此外,基于全面自研能力,腾讯云在交换机、通信协议、通信库以及运营系统等方面,进行了软硬一体的升级和创新,推出面向大模型的高性能网络——星脉网络,基于腾讯云新一代算力集群HCC,可支持10万卡超大计算规模。
在AI模型能力及应用能力层面,腾讯云通过为金融机构提供机器学习平台和向量数据库,助力金融机构提升智能化业务能力。一方面,腾讯的TI-One机器学习平台,不仅提供传统的建模能力,还叠加了大模型时代的精调能力,且能够支持十多个行业大模型。另一方面,腾讯云的向量数据库,则不仅经历了鹅厂内部业务的长期锤炼;还可以结构化的方式快速导入行业知识数据,叠加行业知识训练。
第三个层面,腾讯云还提供以腾讯混元大模型为底座的MaaS(Model-as-a-Service模型即服务),直接为金融机构提供各种类型的应用场景的最终模型——客户可以基于混元、也可以基于开源模型,做自己专属的行业大模型。
胡利明:金融机构已经形成共识——必须积极拥抱AI,长期来看,金融机构如果不具备基于AI的金融服务力,将会被时代淘汰。
而在实操层面则出现了分化。头部实力雄厚的金融机构都在积极投入资源。他们往往会和多家云厂商合作,采购GPU算力资源池、机器学习平台和调度平台,同时并行构建开源大模型,并选择不同的业务场景进行试点。部分腰部机构则会选择与1-2家大型云厂商合作,用少量经典场景做试点。而大部分腰部和小型机构则处于观望和跟随状态。
胡利明:目前AI已经应用于投研投顾、风险管理、舆情、客服、营销、内容生成、内容识别、交易的执行、投教、代码助手等多个领域。
AI在客户服务、金融数据分析(包括决策参考)、交易智能化的执行等方面都能替代人,而且未来程度会越来越高,场景会越来越多。例如,目前AI人脸识别的识别效率及识别准确性都已经远超人眼。
基于大模型更可使AI的能力有质的提升。相当于在过去的专用小模型基础上,叠加一个优秀的大学毕业生的能力。再叠加不同金融应用场景中的专业能力,如果经过不断训练,该模型将会成为各个业务领域的专家,可以更好地服务客户。
例如,腾讯云正在和一家股份制银行合作,基于腾讯的行业大模型叠加银行的数据,利用OCR(Optical Character Recognition,光学字符识别),快速为该行定制特定的交易单据识别,直接将单据识别效率从人工处理的5分钟/单,提升至5秒/单,全年节省300多人月。再针对这个新单据格式,通过建模、调优,可以在几天内完成新模型的训练和生成,其智能化分检准确率可达90-98%。
此外,腾讯正在和头部的股份制银行合作,构建基于一些细分场景的风险识别模型。借助大模型,一些场景的风控模型的建模周期从过去的至少两周缩短到两天以内。例如,信贷业务会不断出现一些线上业务新场景,需要遵守新的规则,将专家模型嵌入风控体系内,可以快速堵住风控漏洞,提升风控能力。
胡利明:我认为金融机构智能化在战略目标,实施路径,组织架构以及人才的匹配方面都面临不小的挑战。
首先要制定明确的战略目标及实施路径,让转型能够逐步产生阶段性成果,避免持续投入,但看不到明显效果。
其次要为转型匹配适合的内部组织架构及人才。数字化、智能化转型不是一次性的项目,而是对金融机构的战略性重塑,从高管到每个员工的经营思路都要与时俱进,否则效果会大打折扣。
此外,目前AI人才的缺口非常大。现在头部金融机构都在招算法博士,尽管他们可以借力云厂商,但最终金融机构还是要具备自主使用和创新的能力,去主导AI大平台的构建、优化及不断叠加新的应用场景。
为此,我们推出名为“新基建,新连接,新服务”的数字化解决方案,重点解决这些问题。
胡利明:是的。以银行为例,需要对不同来源、不同格式的数据按照内部制定的数据规范,不断生成和沉淀数据,输出到大数据湖。应用时也需要不同的业务部门遵从大数据使用规范。银行须对哪些类型的数据须加密,不同的人对应的权限等设置非常细化的使用规范。
目前已有不少头部股份制银行和大行在这个领域有了比较成熟的实践,并通过一些特征工程去把这些数据系统化地应用起来,通过统一的数据湖输出给机器学习平台做相关的训练和应用。近期,一些腰部机构也开始陆续着手构建数据中台和数据治理体系。
针对数据治理,腾讯云可为金融机构输出顶层设计和规划,再基于此设计不同部门的数据治理流程和机制,并提供相关技术和平台。
问:近年来,国产化和自主可控已经成为科技领域最重要、最紧迫的战略。请问腾讯在推动国产化方面有何举措?
胡利明:2020年起,国产化进入大规模落地推广阶段。数据库作为核心基础软件之一,在过去几十年中,被国外长期垄断,这就带来了极高的技术成本和潜在的企业安全风险。且传统集中式技术架构,在云时代高并发、大数据、融合计算等领域场景下的边界和局限一定程度上给企业业务创新带来了制约。
在操作系统领域,此前我国操作系统产业长期处于“多、小、散”的状态,随着科技产业竞争不断加剧,中国在基础软件领域面临着被围堵打压的风险。
腾讯的愿景是成为国内国产技术软件的主力军。我们在这方面整体的研发投入是非常大的,在行业的实践也是非常广泛的。
腾讯2023年二季度研发开支达160亿元,自2018年至今累计投入超过2300亿元。持续高研发投入促进了成果转化,带动专利曲线月,腾讯在全球主要国家和地区专利申请公开总数超过6.6万件,专利授权数超过3.3万件,主要集中在人工智能、云技术、大出行、即时通讯等前沿领域。
在国产化进程中,腾讯云提供包括数据库TDSQL、操作系统、专有云TCE等在内的全栈国产化能力,为中国企业国产化进程保驾护航。
金融行业对国产软件的诉求是非常明确的,主要是专有云、数据库及操作系统,包括大数据平台、AI机器学习平台及云原生的TCS平台等。
腾讯的OpenCloudOS是我国首个全链路自研的服务器操作系统,实现了从自主可控源社区(L1)、商业版(L2)、到社区稳定版(L3)的全链路覆盖,为国内企业提供上游版本,和满足企业级稳定性需求的软件供应版本,守护软件供应链安全。
目前,OpenCloudOS社区及衍生版本装机量累计超1000万节点,覆盖银行、保险、证券等12大行业,经历了海量场景的长时间考验,持续支持行业核心系统和业务的稳定运行。
腾讯专有云TCE脱胎于公有云平台,依托腾讯自研业务上云和服务公有云海量客户的经验,秉持“同源同构”的思路,针对专有云场景进行了深度适配。
目前,TCE已成为金融行业落地案例最多、规模最大的专有云解决方案。在头部商业银行中,90%的客户采用腾讯云的方案,其中七成应用在核心或关键业务领域;行业头部前十的券商全部选择腾讯云服务,其中专有云平台合作行业领先;12大保险集团中,已有7家与腾讯云深度合作。
代码自主率达100%的腾讯云自研企业级分布式数据库TDSQL(以下简称“TDSQL”)高度匹配金融业的交易场景,其分布式架构具备极高性能。根据Gartner®发布的2022年度《云数据库管理系统魔力象限》,TDSQL在交易型数据库排名中位列第一。在今年3月的TPC-C打榜测试中,TDSQL数据库以8.14亿笔交易/分钟,每秒约1300万次的成绩,获世界第一并打破世界记录。
腾讯云分布式数据库TDSQL服务Top 10银行中的7家,已服务过半国内TOP 20银行,典型客户包括中国银行、张家港农商行、昆山农商行、平安银行、国信证券、东吴证券等。