我要投稿

银行如何设计大模型应用架构？四家头部银行落地实践

发布日期：2024-08-06 08:03:48 浏览次数： 1696

自2022年底ChatGPT爆火以来，大模型在银行领域呈现出了积极而充满活力的态势，这种积极性不仅表现在技术的研究和跟踪上，更体现在实际落地的探索和应用中。

根据沙丘智库发布的《价值已现！36家银行大模型应用现状梳理》，目前，大模型已经渗透到银行的多个应用场景，多家银行也将大模型技术作为未来的重点方向持续加码。

企业在落地大模型时需要构建一套完整的应用架构，来支撑大模型的开发和部署，确保模型在实际应用中的稳定性、安全性和合规性。沙丘智库将企业大模型应用架构分为五个关键层：

• 应用层：基于大模型的应用将大模型技术用于用户体验和任务增强，协助用户完成所需的结果。大模型正在渗透到与知识劳动力相关的领域和技能组合中，重构企业生产力，企业逐渐对大模型进行定制化并应用到其生产力和业务流程工具中;

• 平台工具层：工程化工具使企业能够更快地使模型投入生产，平衡了模型治理和上市时间的考量，工具建设是大模型应用范式的关键；

• 模型层：大模型在企业落地通常包括基础大模型（L0）、行业大模型（L1）和领域大模型（L2），企业需要根据业务需求、投入成本、价值实现周期、安全和隐私原则，选择适合企业的模型；

• 数据层：大规模、多样化、高质量的数据集，是大模型应用的前提，企业需要构建数据/知识飞轮，进行“抢救性”的知识保护和挖掘，实现从数据到知识的跨越；

• 基础设施层：大模型的训练需要大规模、定制化基础设施的支持，尤其是在高性能GPU芯片方面，需求远远大于供给。

沙丘智库长期跟踪调研大模型技术的发展，旨在帮助企业快速了解大模型最新、最全面的落地情况。沙丘智库通过研究工商银行、邮储银行、农业银行、平安银行等头部银行的大模型应用架构建设实践，旨在为其他金融机构提供参考。

▎案例1：中国工商银行大模型落地实践

中国工商银行按照“三大支柱、两全平台、1+X范式、一个生态”的建设思路，建成全栈自主可控的千亿级金融大模型技术体系，构建了开放共赢的“人工智能+金融”生态。

• 三大支柱：聚焦“算力、算法、数据”，率先建成业界领先的三大技术支撑能力，夯实大模型应用基石。

• 两全平台：面向数据、模型、应用三类大模型核心能力，构建大模型一体化敏捷数智研发和全域安全防控平台，促进大模型安全可信发展。

• 1+X范式：建立以金融智能中枢为核心的大模型应用范式和工程化解决方案，提供面向场景开箱即用的组合服务，实现规模化应用创新。

• 一个生态：打造大模型应用生态，全面赋能信贷、远程银行等主要业务领域的数智化应用，增强高质发展动能，为数字金融生态发展提供新质生产力。

完整内容：中国工商银行大模型落地实践

▎案例2：中国邮储银行大模型应用实践

邮储银行建设了大模型应用架构，从下自上分别为算力层、数据层、模型层、平台层、场景层和接入层。在通用大模型基础之上，邮储银行构建了金融领域大模型，与研发测试、零售领域、公司领域、资管领域、客户服务、风险信贷、综合办公和运营领域相对应，从而加速这八大领域大模型的应用，面向客户提升体验，面向员工降本增效。

完整内容：中国邮储银行大模型应用实践

▎案例3：中国农业银行ChatABC大模型应用能力体系建设实践

农业银行ChatABC大模型应用体系包括算力、数据、大模型资产、统一平台工具、规范、配套和应用生态，为大模型应用提供支持。本文旨在为金融机构构建高效的大模型应用体系提供参考。

完整内容：中国农业银行ChatABC大模型应用能力体系建设实践

▎案例4：平安银行大模型应用探索

平安银行大模型方案分为能力底座、平台产品和场景应用：

• 在能力底座上，平安银行引入平安集团和外部的基础大模型和行业大模型，基于通用大模型能力训练更适配银行业务的营销、运营、风控场景大模型。为避免大模型面向客户使用时可能存在的风险，平安银行提出统一网关，进行敏感词过滤、图片过滤、容错机制等。

• 在平台产品上，面向全行员工打造AIGC应用市场，提升全行业务人员的办公和服务效率，辅助并逐步替代重复密集型的工作；面向开发者打造大模型开放平台，统一大模型底座，在各场景中自定义开发，实现模块共享。

• 在场景应用上，在数字化经营、数字化运营、数字化管理等领域，平安银行目前均在尝试大模型应用。

案例内容：平安银行大模型应用探索

53AI，企业落地应用大模型首选服务商

产品：大模型应用平台+智能体定制开发+落地咨询服务

承诺：先做场景POC验证，看到效果再签署服务协议。零风险落地应用大模型，已交付160+中大型企业

160+中大型企业正在使用53AI

立即咨询预约演示

百度智能云邀53AI：共创AI新纪元，启航智能新时代

2024-05-27

钉钉恒星计划：53AI与百余位企业家及钉钉生态伙伴，共议“AI 浪潮下的新机遇”

2024-05-22

热点资讯

GraphRAG+Ollama 本地部署，保姆教程，踩坑无数，闭坑大法

2024-07-18

万字长文解析：大模型需要怎样的硬件算力

2024-03-30

全面对比dify、coze、streamlit、chainlit

2024-04-26

“大数据+”医疗

2024-04-11

太强了！10大开源大模型！

2024-05-06

Qwen2 阿里最强开源大模型（Qwen2-7B）本地部署、API调用和WebUI对话机器人

2024-06-12

【深度】AI搜索产品深度分析-搜索原理和商业模式分析

2024-07-09

大模型训练及推理【硬件选型指南】及 GPU 通识

2024-05-09

HealthGPT：华工数字孪生人实验室发布主动健康大模型基座

2023-07-01

Ollama 本地运行大模型(LLM)完全指南

2024-07-25

大家都在问

LlamaIndex报告：未来Agentic App，不仅是RAG

2024-09-19

从案例分析到客户沟通：AI提示词如何优化律师工作流程？

2024-09-19

o1 能带我们走进 AGI 吗？

2024-09-19

端到端的 NL2SQL 引擎: Super-Analysis 震撼来袭，一个不同于市面已有产品的存在

2024-09-19

Golden-Retriever：提升工业知识库检索准确性

2024-09-18

再见了，LangChain！

2024-09-18

LLMFarm功能汇总：揭秘您可能错过的亮点功能！

2024-09-18

LLM Agent在商业中的应用：探索自主智能的新前沿

2024-09-18

开箱即用的企业大模型应用平台

工作+AI

业务+AI

AIx业务

大模型咨询

大模型定制

相关资讯

160+中大型企业正在使用53AI

百度智能云邀53AI：共创AI新纪元，启航智能新时代

钉钉恒星计划：53AI与百余位企业家及钉钉生态伙伴，共议“AI 浪潮下的新机遇”

热点资讯

GraphRAG+Ollama 本地部署，保姆教程，踩坑无数，闭坑大法

万字长文解析：大模型需要怎样的硬件算力

全面对比dify、coze、streamlit、chainlit

“大数据+”医疗

太强了！10大开源大模型！

Qwen2 阿里最强开源大模型（Qwen2-7B）本地部署、API调用和WebUI对话机器人

【深度】AI搜索产品深度分析-搜索原理和商业模式分析

大模型训练及推理【硬件选型指南】及 GPU 通识

HealthGPT：华工数字孪生人实验室发布主动健康大模型基座

Ollama 本地运行大模型(LLM)完全指南

大家都在问

LlamaIndex报告：未来Agentic App，不仅是RAG

从案例分析到客户沟通：AI提示词如何优化律师工作流程？

o1 能带我们走进 AGI 吗？

端到端的 NL2SQL 引擎: Super-Analysis 震撼来袭，一个不同于市面已有产品的存在

Golden-Retriever：提升工业知识库检索准确性

再见了，LangChain！

LLMFarm功能汇总：揭秘您可能错过的亮点功能！

LLM Agent在商业中的应用：探索自主智能的新前沿

热门标签

开箱即用的企业大模型应用平台

工作+AI

业务+AI

AIx业务

大模型咨询

大模型定制

相关资讯

160+中大型企业正在使用53AI

百度智能云邀53AI：共创AI新纪元，启航智能新时代

钉钉恒星计划：53AI与百余位企业家及钉钉生态伙伴，共议“AI 浪潮下的新机遇”

热点资讯

GraphRAG+Ollama 本地部署，保姆教程，踩坑无数，闭坑大法

万字长文解析：大模型需要怎样的硬件算力

全面对比dify、coze、streamlit、chainlit

“大数据+”医疗

太强了！10​大开源大模型！

Qwen2 阿里最强开源大模型（Qwen2-7B）本地部署、API调用和WebUI对话机器人

【深度】AI搜索产品深度分析-搜索原理和商业模式分析

大模型训练及推理【硬件选型指南】及 GPU 通识

HealthGPT：华工数字孪生人实验室发布主动健康大模型基座

Ollama 本地运行大模型(LLM)完全指南

大家都在问

LlamaIndex报告：未来Agentic App，不仅是RAG

从案例分析到客户沟通：AI提示词如何优化律师工作流程？

o1 能带我们走进 AGI 吗？

端到端的 NL2SQL 引擎: Super-Analysis 震撼来袭，一个不同于市面已有产品的存在

Golden-Retriever：提升工业知识库检索准确性

再见了，LangChain！

LLMFarm功能汇总：揭秘您可能错过的亮点功能！

LLM Agent在商业中的应用：探索自主智能的新前沿

热门标签

太强了！10大开源大模型！