百川智能发布全链路领域增强金融大模型Baichuan4-Finance,金融能力领先GPT-4o近20%
今天,我们发布了全链路领域增强大模型Baichuan4-Finance。
Baichuan4-Finance在高质量金融数据的基础上,通过行业首创的领域自约束训练方案,实现了金融能力和通用能力同步提升的效果,极大提高了金融场景的整体可用性。
在中国人民大学财政金融学院新近发布的评测体系FLAME以及国内主流开源金融评测基准FinancelQ上均登上榜首,金融专业能力和场景应用能力大幅领先GPT-4o。
Baichuan4-Finance API现已在百川智能官网正式上线,感兴趣的朋友可以随时移步官网了解并申请体验。
网址:https://platform.baichuan-ai.com/finPage
整体准确率领先GPT-4o近20%,登顶多个权威金融评测
为了让大家更好地了解Baichuan4-Finance的能力,我们在多个权威金融评测基准上对其进行了评测。
FLAME(Financial Large-Language Model Assessment and Metrics Evaluation)是中国人民大学财政金融学院12月17日发布的金融评测体系(github地址:https://github.com/FLAME-ruc/FLAME/tree/main)。
作为国内顶尖高校背书的金融领域最新的评测体系,FLAME兼顾专业性和实用性,由两个方向的评测基准组成,分别是:
- 覆盖了CPA、CFA、FRM等14类权威金融资格认证,主要面向模型专业金融能力评测的FLAME-Cer;
- 包含了10个一级核心金融业务场景,21个二级细分金融业务场景,近百个三级金融应用任务,更侧重模型场景应用能力的FLAME-Sce。
FLAME-Cer评测结果显示,Baichuan4-Finance在银行、保险、基金、证券等多个资格认证领域的准确率均突破了95%,整体准确率93.62%,大幅领先GPT-4o和XuanYuan3-70B-Chat,超出GPT-4o近20%。
GPT-4o大家非常熟悉,是金融领域公认的综合实力最强的通用模型之一;而XuanYuan3-70B-Chat则是国内首个开源中文金融大模型。
Baichuan4-Finance在FLAME-Sce评测中,一级核心金融业务场景的整体可用率达84.15%,金融数据计算、金融知识理论等场景的可用率更是超过90%,这说明它不仅“理论”强,“实操”同样非常优秀。单一的评测基准或许难以令人信服,因此我们还在国内主流开源金融评测基准FinanceIQ上进行了评测,在这个评测中,Baichuan4-Finance同样超越了GPT-4o和XuanYuan3-70B,整体准确率达到79.23%,领先GPT-4o近13%。行业首创领域自约束训练方案,模型金融专项能力和通用能力同步提升如何让模型在提升专业能力的同时不损失通用能力,是所有大模型企业和想要将大模型融入到业务场景的企业都非常头疼的问题,目前业界普遍采用通用训练语料与领域数据相结合的CPT训练方式。这个方案虽然能解决模型专业能力不足的问题,但非常容易让模型失去通用能力,变成某一场景的专有模型。为解决这一问题,经过长时间的探索和创新,我们打造出了一套全链路领域增强方案,这个方案覆盖了高质量数据集构建、模型预训练、微调、强化学习等从模型研发到场景应用的全流程。并且在模型训练阶段,我们通过行业首创的领域自约束训练技术,实现了模型专项能力和通用能力同步提升的效果,极大提升了模型多元场景的可用性。而Baichuan4-Finance正是这一方案的最新成果,全链路金融领域增强让其既掌握了扎实的金融理论基础知识,又具备了丰富的多场景实践应用能力。具体而言,Baichuan4-Finance的高质量金融数据集全面且严谨,既包含金融专业教材与学术著作、顶级金融期刊论文、监管机构政策文件、金融法律法规等核心专业金融知识数据,也覆盖了金融专业问答集、企业财报与年度报告、金融类研究分析报告等实践应用类数据,为提升模型金融能力提供了良好的底层支撑。在此基础上,Baichuan4-Finance还在领域自约束训练过程中引入了更高精的通用数据,与高质量金融数据一起进行混合训练,最终实现了模型通用能力不下降,金融能力稳定增长的效果。同时在后训练环节我们也做了大量增强工作,如:通过合成数据、指令数据对模型进行有监督的微调;在强化学习策略中,针对数学计算等金融领域特别关注的场景进行样本增强等,进一步提升了模型性能。不仅如此,为了更好地助力金融企业将大模型应用到各种真实场景,我们还在官网发布了Baichuan4-Finance全链路领域增强的技术报告,详细阐述了包括“领域自约束训练”在内的各项技术细节,想要详细了解相关技术的朋友可以点击文尾的“阅读原文”下载并阅读。攻克了专项能力和泛化能力平衡问题这一模型落地应用的最大阻碍后,Baichuan4-Finance能够在效率提升、风控合规、客服、决策支持等诸多层面为金融行业带来全方位的价值提升。例如,它能够帮助金融从业者处理文档审核、客户咨询、产品营销等大量日常工作,还能依托深厚的金融专业知识和法律法规理解能力,为机构提供精准的风险识别和合规保障。此外,还可以凭借强大的数据分析能力为管理层提供专业的市场洞察和决策建议。在内测过程中Baichuan4-Finance就已受到了合作伙伴的高度认可:用友表示,Baichuan4-Finance凭借其海量的金融专业知识储备,在财税知识问答场景中,准确率较Baichuan4-Turbo提升了20%,较GPT-4o提升了10%,表现尤为亮眼。软通动力表示,我们的客户在实际应用中既要求大模型具备通用能力,又希望其在金融场景中有所专长。经过对比测试,我们发现Baichuan4-Finance完美契合这一需求,不仅通用能力出色,金融专业能力也得到了增强。自部署Baichuan4-Finance以来,我们的客户满意度提升了20%。目前百川智能已经服务了数千家客户, 包括北电数智、完美世界游戏、爱奇艺、360集团、生学教育、爱学堂等各行业的领军企业,并且与信雅达、用友、软通动力、新致软件、达观数据、华胜天成等多家行业生态伙伴,以及华为、中科曙光等硬件厂商,中国移动、中国电信、中国联通等运营商达成合作,携手构建百川大模型生态。