以 ChatGPT 为代表的大模型技术的成熟和应用将我们带入大模型时代，大模型在理解和生成语言方面的惊人能力,使人类与机器的交互变得更加自然流畅。银行拥有海量高价值数据资源和丰富的应用场景，天然是大模型技术深度应用的重要行业，目前头部银行也都在拥抱大模型的技术趋势，积极探索大模型的落地应用。

对银行而言，大模型的核心能力到底是什么?哪些应用场景对银行来说更有业务价值、更具可行性?银行应用大模型面临的挑战有哪些?银行又该如何选择大模型的建设路径?本报告将呈现我们对这些问题的思考与建议，为银行管理者提供参考。

1. 银行业大模型市场概况

1.1  大模型定义

大模型的全称是大规模预训练模型，是指参数规模超过亿级的“预训练深度学习算法”基于“大数据+大算力+大算法参数网络结构”进行训练,实现海量知识“记忆”。

人工智能模型主要可分为传统机器学习模型、传统深度学习模型(前两者通常被称为小模型)和大模型三类，不同模型之间的关系如下:

图1: 不同人工智能模型之间的关系

传统机器学习模型可解释性强,适用于可解释要求高的智能决策分析类场景，例如反欺诈预测、理财产品营销推荐等;传统深度学习模型适用于感知识别类场景,例如OCR识别、人脸识别、语音识别等。

相较于小模型(传统机器学习模型和深度学习模型),大模型具备强大的通用能力和智能创作能力，可以通过聊天交互的形式,协助用户完成各种智力性和创造性工作,更加适用于文本、图像等非结构化数据的分析、理解和生成任务。

从质量、效率、成本的角度考虑,并非所有小模型都需要用大模型重新做一遍,二者在实际应用中将会形成协同，企业需要根据具体的业务场景选择使用大模型还是小模型。

图2: 大模型V.s.小模型

1.2 银行业大模型应用场景

通过对银行高管层、技术专家和业务专家的深度调研，目前银行已在多个领域探索大模型的应用，但大多是与知识管理、客户体验、应用开发等相关的简单应用。

图3:银行业大模型应用场景

能够为业务直接带来增量收益的场景是银行在开展大模型应用时更加偏好的场景，但当前大模型在关键技术上仍然存在缺陷，模型的输出结果存在很大程度的不稳定性，模型产出内容仍然需要专人进行审核，在直接面客、制定策略、风险防控等关键业务领域，对大模型的使用尤为谨慎。

因此，短期内大模型在银行可行的落地场景还是偏向于内部业务开展的助手层面,更多在降本增效方面发挥价值。

在图3各领域的代表用例中，确定了当前对银行最有价值、最具可行性的18个具体用例，包括员工智能问答助手、营销物料生成、编码辅助工具、客服坐席助手、数据分析、投研助手、智能营销工具、信贷审批、风险预警、反欺诈、智能办公助手、反洗钱报告生成、合规审查、虚拟数字客服、机器人交易助手、产品动态定价、客户流失预警、宏观分析。

同时，根据对银行与大模型技术厂商的调研，对这些用例按照业务价值与可行性进行优先级排序,旨在为银行的大模型应用选择提供参考。

1.3 银行业大模型应用挑战

虽然大模型带来了时代的变革,但大模型并非万能,目前受制于模型黑盒、计算复杂度高、推理结果不可预知等因素,大模型存在答非所问、应用成本高、科技伦理风险等诸多问题。

训练大模型的数据来源于互联网、业务数据，这些数据可能涉及大量用户隐私，在数据安全和隐私保护方面存在较大风险。国家高度重视大模型应用安全，国家网信办明确“利用生成式人工智能生成的内容应当体现社会主义核心价值观”，以及必须向网信办申报安全评估并且必须进行算法备案。

对银行的调研表明,目前阻碍银行使用大模型的原因主要体现在安全、信任、数据质量等方面:

图4: 银行业大模型挑战

对于安全相关的问题，目前银行基本采取本地化部署的方式来规避，部分商用大模型的供应商也在通过大模型输出后的独立安全模块的方式规避安全性问题;

对于模型可解释性,可信度、社会伦理等方面的问题,银行可通过不断训练和调优进行缓解;

但大模型的某些固有风险如事实幻觉、输出内容不稳定等问题短期内难以完全解决。

1.4 银行大模型建设路径

大模型的建设路径有多种,目前主要的路径有五种:购买嵌入了大模型的应用、调用大模型的 API接口、通过信息检索扩展大模型、在大模型的基础上微调、自建基础大模型。

不同的大模型建设路径之间不是互斥关系，银行需要根据实际业务需求、技术能力、资源情况等选择其中的一种或几种。在选择建设路径时需要考虑的关键因素包括: 领域数据、使用成本、数据安全与隐私保护、模型输出质量。

图5:大模型建设路径决策框架

第一, 领域数据。大多数基础大模型都是都是通用大模型，虽然具有较强的泛化能力，但在特定任务上往往表现一般。企业可以通过 RAG、微调或者自建大模型的方式将领域数据或企业自有数据注入到大模型中，从而保证在某些任务下与需求更匹配。

第二, 使用成本。使用嵌入了大模型的应用和调用大模型的 API接口都不会产生模型训练成本，但会有使用成本或订阅费用;在进行提示工程时，每次修改人工创建的提示词时会产生推理成本，但由于提示工程不会更新模型参数，因此成本不高，数据检索会在模型提示词中添加更多数据，从而增加推理成本;微调的成本与模型参数量有关，超过数十亿参数的模型，微调成本会很高;企业自建基础大模型的成本非常之高。

第三, 数据安全与隐私保护。企业建立自己的模型或通过微调创建模型可以加强对数据的控制,并在安全措施方面具有更强的灵活性。企业需要建立相应的安全风险评估框架,建立模型的安全准入机制，对引入的大模型进行安全风险评估，确保模型满足监管合规要求。

第四,模型输出控制。模型输出质量非常重要,在对模型输出质量要求较高的场景,微调或自建大模型可能是企业最好的选择。大模型目前无法做到 100%的正确，因RAG、2此在一些关键业务场景，需要有人工的参与。

对于大型银行而言,由于专业数据海量、应用场景丰富且对投入成本的顾虑较小，适合引入业界领先的基础大模型，在此基础之上针对不同的场景选择微调、RAG 扩展或者提示工程优化。

对于中小银行而言,应综合考虑应用产出和投入成本的性价比，避免“人有我有”的不理性决策,按需引入各类大模型的公有云 API接口或私有化部署服务,或者直接购买嵌入了大模型的成熟应用，满足业务诉求。

2. 中国银行业大模型用例优先级矩阵

针对众多的大模型用例，银行应从业务价值和可行性两个维度进行用例筛选和优先级排序。

本用例优先级矩阵共定义了18个大模型用例,这些用例将助力银行实现营收增长、降本增效、提高用户体验并降低风险,银行CIO、CTO或科技、数据部门相关决策者可以通过用例优先级矩阵，优先选择业务价值更大、可行性更高的用例，进行合理的资源投入与分配。

图6 : 2024中国银行业大模型用例优先级矩阵

3. 中国银行业大模型用例评分

3.1 用例评分结果

图7 : 2024中国银行业大模型用例评分

3.2 评分维度说明

(1) 业务价值

提高营收:  通过更精准的客户洞察,准确理解客户需求,吸引并留存更多客户,增加销售额。

降本增效: 实现业务流程自动化，减少人工干预,降低运营成本、提高运营效率。

客户体验:  为客户提供更具个性化的产品与服务,快速响应客户查询与请求，提高客户满意度。

风险管理: 降低潜在的信用、市场、流动性、声誉等风险,确保银行在复杂和不断变化的金融环境中稳定运营。

(2) 可行性

技术可行性: 技术是否满足落地应用的条件，包括大模型技术本身的成熟度、供应商生基础设施建设等。‍

内部环境: 企业内部是否支持用例实现，包括管理层意愿、组织文化、人员能力、流程和协作等。‍

外部环境: 外部环境是否支持用例实现，包括数据可得性、政策法规限制、市场竞争等。

4. 中国银行业大模型用例介绍

用例1 : 员工智能问答助手

定义: 利用大模型的问答能力,结合企业知识库,创建常用领域的问答应用，为员工提供灵活的信息查询方式，例如金融产品、规章制度、业务文档等信息，提高员工获取所需信息的效率，从而更高效的开展工作。

典型供应商: 百度、第四范式、恒生聚源、华为云、科大讯飞、澜舟科技、中关村科金

典型案例1:浦发银行审计制度问答场景大模型应用

浦发银行通过“大模型+向量数据库”搭建审计领域的制度搜索服务,在向量数据库中构建自有审计制度知识资产，并进行提示工程采用对话引导式问答交互，通过问答形式完成知识查找，充分发挥浦发银行所拥有的丰富、多种形态、高质量的知识资产，为审计人员提供知识助手服务,具有更高的专业性和时效性。

在数据准备阶段，浦发银行准备了数百篇审计知识文档以及审计专家积累的高质量审计问答OA 对，由于大模型生成结果可能不准确或不可控,浦发银行采用“大模型+小模型”两路召回的方案实现,首先切分制度文档,然后embedding 向量化,存入向量数据库; QA对进行数据三元化处理，也存入向量数据库。

图8:浦发银行审计知识库问答场景大模型应用

用例2 :  营销物料生成

定义: 用户输入文本提示词以及设置生成属性参数等,大模型根据客户偏好自动生成多样化、个性化的营销物料,包括文字、图片、视频、音频等形态，并支持用户对生成内容进行二次编辑，提升营销素材生产质量与效率。

典型供应商:百度、科大讯飞、奇富科技、中关村科金

典型案例2 : 平安银行营销物料生成场景大模型应用

银行业同质化竞争加剧，一线运营经理需要及时、个性化的营销物料，但传统设计效率及产能能以满足需求,平安银行将大模型用于营销物料生成场景，通过“创意+AI+智能创意”根据客户偏好自动生成沟通文本,提升内容生产质量与效率。

图9 : 平安银行营销物料生成场景大模型应用

用例 3 : 编码辅助工具

定义: 基于大模型的编码工具可以帮助开发人员快速实现代码生成、代码转换、代码补全、单元测试生成、代码缺陷检测等,为软件研发效能的提升带来技术变革。

典型供应商: 阿里云、百度、华为云、科大讯飞、澜舟科技、中兴通讯

用例 4 : 客服坐席助手

定义: 大模型可以赋能客户服务与支持全流程,在银行坐席人员与客户的实时通话中，基于大模型的工具可以快速分析客户过去与当下的互动，辅助坐席人员准确感知用户情绪与真实需求，并为坐席人员生成指导建议，提高问答效率，降低客诉。

典型供应商: 第四范式、科大讯飞、澜舟科技、小i机器人、中关村科金

典型案例3: 工商银行远程银行客服坐席场景大模型应用

针对远程银行客服中心上千人的坐席团队,工商银行聚焦对客服务中枢的运营团队、群体技术较大的人工坐席、工作量较为繁重的质检人员,重新定义作业和生产模式，基于大模型能力赋能客户服务全流程,覆盖事前运营、事中辅助和事后质检全流程:

·事前智能客服知识运营阶段，利用大模型自动完成知识标注和知识维护，提升传统智能客服分流质效。

·在事中客户服务阶段,利用大模型开发前情摘要、知识随行、工单预填等功能,提升坐席人员运营效率，压降客户通话时长。

·在事后质检阶段,生成传统质检Al模型数据,模拟客服及客户问答对，提升传统质检模型的准确率。‍

图10:工商银行远程银行坐席客服场景大模型应用

用例5: 数据分析

定义: 结合大模型的智能数据分析工具(例如 BI) 可以让用户通过自然语言的方式驱动数据分析，进一步降低数据分析的门槛。业务人员通过对话的方式就能提取数据，可将精力聚焦于价值更高的经营分析场景,提升数据驱动经营管理的有效性。

典型供应商:北极九章、观远数据、Kyligence、澜舟科技、思迈特软件、中关村科金

典型案例4: 上海银行数据分析场景大模型探索实践

数据分析是大模型重要的落地场景之一,上海银行正在积极探索大模型与数据分析工具的结合，通过对话等交互方式实现指标查询、报表生成等功能,在不断降低数据分析工具使用门槛的同时，通过提高数据分析数据获取效率，改变数据分析模式，业务人员可以更加快捷的使用数据，释放数据分析的生产力,数据分析师更多完成经营分析的工作而不是数据处理，数据处理人员进一步压缩编程统计分析工作的细支。

图11: 上海银行数据分析场景大模型应用

用例6: 投研助手

定义: 基于大模型文本生成与处理、数据挖掘等能力,帮助研究员快速获取和解读各类财经资讯，辅助生成各类投资报告与图表摘要并支持二次加工，提高投研工作效率。

典型供应商: 阿里云、百度、达观数据、恒生聚源、科大讯飞、蚂蚁集团、小i机器人、中关村科金、中科闻歌

典型案例5: 招商银行资产管理领域大模型应用基于大模型的生成和理解能力，可以在资产管理业务的整个链条中进行应用，例如在实体经济和底层金融资产中,利用大模型的生成能力可以完成研报的写作、检索，利用大模型的理解能力对已有研报可以进行解析、理解、摘要、脱水,挖掘深层次数据价值;在资产组合层面,大模型可以进行因子提取、指数辅助编制、策略COT 辅助实现;在财管管理阶段，大模型可以解析基金公司新闻、管理人舆情、基金产品公告等信息，通过资配的逻辑对非专业投资客户进行产品推荐，辅助财富管理。

图12: 招商银行资管领域大模型应用

用例7: 智能营销工具

定义: 通过大模型对海量用户数据进行关联学习，根据客户的消费习惯和偏好生成营销策略，推荐适合的信用卡、贷款和理财产品以及其他增值服务，节约前期的管理和营销成本，也可以使用预测模型分析客户的历史数据和行为,预测客户的满意度和忠诚度。

典型供应商: 百度、科大讯飞、中关村科金

用例8: 信贷审批

定义: 依托大模型的数据提取能力,同时结合 RPA、OCR 等技术,实现贷款全流程自动化审批，加速信贷决策过程，提升信贷审批效率。

典型供应商: 达观数据、华为云、科大讯飞、腾讯云

用例9: 风险预警

定义: 大模型能够从海量数据中自动提取更丰富、更抽象的风险特征和信息，减少对手工特征工程的依赖,提高对风险信号的敏感性,强大的学习能力使大模型能够适应不断变化的市场条件和新兴风险模式，从而提高风险预警的灵活性、及时性和准确性。

典型供应商: 华为云、科大讯飞、腾讯云、中科闻歌

用例10: 反欺诈

定义: 银行可以使用大模型对交易数据进行实时分析,通过学习欺诈特征，自动发现异常交易，以识别潜在的欺诈行为，以及生成合成数据用于模型训练,提升欺诈检测系统的准确性和鲁棒性，全面提升银行的反欺诈能力，降低误报和漏报的风险。

典型供应商: 腾讯云、卓世科技

用例11: 智能办公助手

定义: 利用大模型的文本生成、问答能力,围绕会议、文档、邮件等员工日常工作事务等方面，提供工作周报撰写、PPT大纲生成、会议纪要生成等辅助工作，提高银行员工办公效率。

典型供应商:百度、科大讯飞、金山办公、蚂蚁集团、奇富科技、中关村科金

典型案例 6: 工商银行智慧办公场景大模型应用

结合大模型摘要生成、文档检索等能力,工商银行以人机协同的形式,围绕邮件、会议、材料、员工日常事务等方面，优化行内办公工具的交互体验，提高办公效率;面向网点一线员工提供制度、流程、办法等交互式解答能力，解决网点对客服务、日常管理工作中制度规范检索难、复杂业务办理难、专业术语解释难等业务痛点问题,提升网点员工业务应变和沟通能力，打造高质量服务。

图13:工商银行智慧办公场景大模型应用

用例12: 反洗钱报告生成

定义: 大模型通过分析大量的金融交易数据，自动检测可能的洗钱活动迹象，识别异常模式和风险因素，实现可疑交易分析报告的自动生成，包括潜在的风险客户、可疑交易和必要的合规信息，提高银行反洗钱工作的质效。

用例13: 合规审查

定义: 理财宣传材料、招股募集书、债券募集书等需要依据相关法律合规要求进行表述大模型可以用于推断审核相关文件，确保合规性和准确性。

典型供应商: 百度、达观数据、中关村科金、中科闻歌

用例16: 产品定价优化

定义: 通过大模型强大的学习能力，识别并解释客户行为和风险偏好的变化，发现潜在的关系和模式,帮助银行设计并优化产品定价策略,并可以对不同定价策略进行测试,提高定价策略的精准度和灵活性。

用例17: 客户流失预警

定义: 通过大模型分析庞大的客户数据,识别潜在的流失风险因素和模式,提高传统机器学习模型的识别精度，使银行更准确地预测客户流失，从而制定个性化的留存策略，提供更好的客户体验，降低流失率。

用例18: 宏观分析

定义: 大模型从新闻、公告等信息中获取变量,在已有的分析框架下,分析变量对宏观经济产生的影响,可以用于经济趋势预测、资产配置分析、货币汇率分析等。

图15: 2024 中国银行业大模型市场图谱

‍‍‍‍