25 图4:常见金融大模型技术架构
当前金融行业应用大模型主要有两种模型类型:一
是通用大模型,如GPT4,二是金融垂类大模型,如
FinGPT。大模型常见的合作路线包括开源大模型应用、
商用大模型采购合作、产学研联合创新大模型研制、完全
自主研制大模型等几种方式。大模型部署方式分为私有化
部署、行业云部署和公有云部署等。
从上述应用案例和业务趋势可以看出,不同的金融
机构选择了不同的技术路径:有的使用通用大模型,有的
使用金融垂直大模型,有的应用开源模型,有个与商业模
型合作,有的应用部署在公有云上,而大多数采用私有化
部署。证券行业大模型技术路径选型可以从三方面进行
分析:
(1) 企业规模大小:大型企业通常采用多种模式并行
的混合路径。既会投入人力物力自主研发私有化部署的垂
类金融大模型,也会商业化采购垂类大模型进行本地化合
作,还会使用云端的开源的通用大模型进行尝试探索。中
小企业由于缺乏大算力硬件和大算法人才,所以普遍会先
采用使用公有云的开源通用大模型和垂类大模型进行探索
试用。
(2) 数据敏感程度:数据敏感场景适合采用私有化部
署模式,自研更可靠。数据不敏感场景可以采用公有云或
者行业专用云模式,可以使用开源和通用大模型。
(3) 业务场景价值:业务价值高场景适合金融垂类模
型,私有化部署更适合,自研或商业化合作更有保障。而
价值一般通用场景可以采用通用大模型云端模式。
这里也分析一下金融行业大模型落地常见技术架构和
路径(见图4)。最底层是基础设施,包括强大的计算和
存储的硬件,以及完善的金融大数据语料和数据平台,这
是应用落地的一个重要基础。中间层是模型层和平台层,
模型层可能既有通用大模型、行业大模型,也会有本地化
商业大模型和开源大模型,而平台层包括数据标注、模型
机器学习的框架、模型训练和模型调度等能力。应用层则
是面向证券业务场景、面向内部员工、面向监管机构的各
类赋能场景。
尽管大模型在证券行业的应用前景广阔,但目前还
处于起步阶段,面临诸多挑战:既有技术方面挑战,大模
型在训练过程中存在的大硬件算力、海量内存和高效通信
的挑战,以及机器幻觉问题在容错率较低的金融领域可能
会影响分析结果的可信度;也有业务方面挑战,金融行业
应用场景缺少通用范式、欠缺高质量金融训练数据;还有
监管方面的难题,由于金融行业合规要求高,严格保护数
据安全和隐私,金融机构和监管机构需要投入大量资源以
满足合规要求。为了应对这些挑战,未来金融行业还有一
系列工作要做,包括协同共筑AI算力基础设施以及完善算
法优化与风险管控,加强数据治理工作和积极构建高质量
金融数据集,加强金融应用的最佳实践指导与监督管理
等。那么,随着大模型技术不断升级、金融业务场景不断
落地探索、监管的不断完善,大模型落地能力更强、场景
更广、应用更深、价值更高,重塑金融行业基础设施、组
织架构、业务模式、经营模式,金融行业共赴数智金融新
时代。
参考文献:
[1]12世纪资管研究院. 大模型重塑金融业态报告
[R],2024-2-5.
[2]林建明. AIGC重塑金融:AI大模型驱动的金融变革与实
践[M]. 机械工业出版社出版,2024年2月.
[3]中国银保传媒、腾讯研究院、毕马威. 2023金融业大模
型应用报告[R].2023-11-9.
[4]吴一凡. 海外AIGC金融有哪些落地进展[R]. 长江证券,
2024-2-2.
[5]清华大学、度小满、MIT科技评论.2024年金融业生成
式AI应用报告[R]. 2024-1-24.
[6]潘玉蓉. 机构争分夺秒抢滩 金融大模型落地为时尚早
[N]. 证券时报网, 2023-11-30.
[7]苏仪. 券商大模型应用进展几何[R]. 中泰证券,
2024-2-21.
[8]北京金融信息化研究所. 大模型金融应用实践及发展建
议[R]. 2023-11.
[9]参见《境外金融机构AI大模型应用案例:投行券商、
资讯公司、金科公司各显神通》,微信公众号:资管业务
与科技.最后访问日期:2024年5月25日, 网址:
https://mp.weixin.qq.com/s/OXiuXeR5S6BQ8Sx7VIai
1g.
四、证券行业大模型落地三大技术路径
五、证券行业大模型应用挑战以及趋势 《交易技术前沿》总第56期