我要投稿

银行如何设计大模型应用架构？四家头部银行落地实践

发布日期：2024-08-06 08:03:48 浏览次数： 1915 来源：沙丘社区

自2022年底ChatGPT爆火以来，大模型在银行领域呈现出了积极而充满活力的态势，这种积极性不仅表现在技术的研究和跟踪上，更体现在实际落地的探索和应用中。

根据沙丘智库发布的《价值已现！36家银行大模型应用现状梳理》，目前，大模型已经渗透到银行的多个应用场景，多家银行也将大模型技术作为未来的重点方向持续加码。

企业在落地大模型时需要构建一套完整的应用架构，来支撑大模型的开发和部署，确保模型在实际应用中的稳定性、安全性和合规性。沙丘智库将企业大模型应用架构分为五个关键层：

• 应用层：基于大模型的应用将大模型技术用于用户体验和任务增强，协助用户完成所需的结果。大模型正在渗透到与知识劳动力相关的领域和技能组合中，重构企业生产力，企业逐渐对大模型进行定制化并应用到其生产力和业务流程工具中;

• 平台工具层：工程化工具使企业能够更快地使模型投入生产，平衡了模型治理和上市时间的考量，工具建设是大模型应用范式的关键；

• 模型层：大模型在企业落地通常包括基础大模型（L0）、行业大模型（L1）和领域大模型（L2），企业需要根据业务需求、投入成本、价值实现周期、安全和隐私原则，选择适合企业的模型；

• 数据层：大规模、多样化、高质量的数据集，是大模型应用的前提，企业需要构建数据/知识飞轮，进行“抢救性”的知识保护和挖掘，实现从数据到知识的跨越；

• 基础设施层：大模型的训练需要大规模、定制化基础设施的支持，尤其是在高性能GPU芯片方面，需求远远大于供给。

沙丘智库长期跟踪调研大模型技术的发展，旨在帮助企业快速了解大模型最新、最全面的落地情况。沙丘智库通过研究工商银行、邮储银行、农业银行、平安银行等头部银行的大模型应用架构建设实践，旨在为其他金融机构提供参考。

▎案例1：中国工商银行大模型落地实践

中国工商银行按照“三大支柱、两全平台、1+X范式、一个生态”的建设思路，建成全栈自主可控的千亿级金融大模型技术体系，构建了开放共赢的“人工智能+金融”生态。

• 三大支柱：聚焦“算力、算法、数据”，率先建成业界领先的三大技术支撑能力，夯实大模型应用基石。

• 两全平台：面向数据、模型、应用三类大模型核心能力，构建大模型一体化敏捷数智研发和全域安全防控平台，促进大模型安全可信发展。

• 1+X范式：建立以金融智能中枢为核心的大模型应用范式和工程化解决方案，提供面向场景开箱即用的组合服务，实现规模化应用创新。

• 一个生态：打造大模型应用生态，全面赋能信贷、远程银行等主要业务领域的数智化应用，增强高质发展动能，为数字金融生态发展提供新质生产力。

完整内容：中国工商银行大模型落地实践

▎案例2：中国邮储银行大模型应用实践

邮储银行建设了大模型应用架构，从下自上分别为算力层、数据层、模型层、平台层、场景层和接入层。在通用大模型基础之上，邮储银行构建了金融领域大模型，与研发测试、零售领域、公司领域、资管领域、客户服务、风险信贷、综合办公和运营领域相对应，从而加速这八大领域大模型的应用，面向客户提升体验，面向员工降本增效。

完整内容：中国邮储银行大模型应用实践

▎案例3：中国农业银行ChatABC大模型应用能力体系建设实践

农业银行ChatABC大模型应用体系包括算力、数据、大模型资产、统一平台工具、规范、配套和应用生态，为大模型应用提供支持。本文旨在为金融机构构建高效的大模型应用体系提供参考。

完整内容：中国农业银行ChatABC大模型应用能力体系建设实践

▎案例4：平安银行大模型应用探索

平安银行大模型方案分为能力底座、平台产品和场景应用：

• 在能力底座上，平安银行引入平安集团和外部的基础大模型和行业大模型，基于通用大模型能力训练更适配银行业务的营销、运营、风控场景大模型。为避免大模型面向客户使用时可能存在的风险，平安银行提出统一网关，进行敏感词过滤、图片过滤、容错机制等。

• 在平台产品上，面向全行员工打造AIGC应用市场，提升全行业务人员的办公和服务效率，辅助并逐步替代重复密集型的工作；面向开发者打造大模型开放平台，统一大模型底座，在各场景中自定义开发，实现模块共享。

• 在场景应用上，在数字化经营、数字化运营、数字化管理等领域，平安银行目前均在尝试大模型应用。

案例内容：平安银行大模型应用探索

53AI，企业落地应用大模型首选服务商

产品：大模型应用平台+智能体定制开发+落地咨询服务

承诺：先做场景POC验证，看到效果再签署服务协议。零风险落地应用大模型，已交付160+中大型企业

160+中大型企业正在使用53AI

立即咨询预约演示

百度智能云邀53AI：共创AI新纪元，启航智能新时代

2024-05-27

钉钉恒星计划：53AI与百余位企业家及钉钉生态伙伴，共议“AI 浪潮下的新机遇”

2024-05-22

热点资讯

一文带你了解大模型——智能体（Agent）

2024-05-28

全面对比dify、coze、streamlit、chainlit

2024-04-26

Cursor 一个真正让程序员产生危机感的 AI 编程工具

2024-08-21

“大数据+”医疗

2024-04-11

本地部署大模型？看这篇就够了，Ollama 部署和实战

2024-08-13

【深度】AI搜索产品深度分析-搜索原理和商业模式分析

2024-07-09

Claude中国官网正式上线！1:1还原官网，非套壳，国内直连

2024-07-18

哈工大“风筝”航天知识大模型开放测试

2024-10-25

一文读懂大模型推理必备技术：KV Cache

2024-07-01

Prompt提示词如何写才能发挥大语言模型LLM的最大潜力

2024-06-17

大家都在问

为什么大模型连"Strawberry"的"r"都数不对？

2024-11-21

数据库 + 大模型，DBA初级变高级？

2024-11-18

工业大模型落地加速，哪些场景将率先获益？

2024-11-14

AI 2.0时代，谁是未来的“掘金者”和“卖铲人”？

2024-11-08

如何泛化AI的深度推理能力？

2024-11-07

为了在AI时代做好“个人助理”，vivo做了哪些努力？

2024-11-05

什么是AI“世界模型”？为何如此重要？

2024-11-04

黑掉大模型？恶意 Prompt 攻击成无解之谜？

2024-11-01

开箱即用的企业大模型应用平台

工作+AI

业务+AI

AIx业务

大模型咨询

大模型定制

相关资讯