作者｜沙丘智库研究团队

来源｜沙丘社区（www.shaqiu.cn）

大模型的全称是大规模预训练模型，是指参数规模超过十亿级别的“预训练深度神经网络模型”，基于“大数据+大算力+大算法参数网络结构”进行训练，实现海量知识“记忆”。

数据的日益增多、算法的持续演进、算力的不断突破推动了大模型的出现，开启通用人工智能的新纪元，将人工智能从基于小模型的“小数据、单任务”向基于大模型的“大数据、多任务”推进。

2022年底ChatGPT的出现引发了世界范围内对大模型的关注。2023年，是中国大模型的发展“元年”，百模大战拉开序幕；2024年，则是企业真正开始使用大模型技术并从中获得业务价值的一年。

虽然当前大多数企业都将大模型用于中低风险的内部场景实施上，但随着生产力工具和大模型技术的快速发展，企业将在更多核心业务场景的关键应用场景中部署大模型。从长远来看，基于大模型的对话式界面将促进技术商业化，使人工智能和其他技术进一步平民化。

本文汇总了沙丘智库近期在大模型方向的部分研究成果，包括大模型对企业的影响、大模型的应用场景和价值、大模型技术实现方式、安全和风险管理，旨在回答企业想要了解的关于大模型的热门问题。

01

大模型对企业的影响

Q1：大模型将产生哪些颠覆性创新？

对于企业而言，大模型将在内容消费、内容生成、技术创造三个领域产生颠覆模式，这些领域对于企业在探索大模型技术的投资和应用路径时至关重要。

在内容消费领域，以对话式AI为例，商业智能平台正在利用大模型增强其对话式数据分析的能力，允许用户以自然语言对话的方式获取所需的统计数据并自动化生成数据分析报告（详见《大模型将如何影响对话式AI应用？》）。

在内容生成领域，以人工智能智能编码助手为例，人工智能编码助手可以帮助开发人员编写代码，还可以分析、解释、调试、重构和转换代码，从而使开发人员专注于高价值的工作，提升开发人员的生产力和体验（详见《2024中国人工智能编码助手市场指南》）。

在技术创造领域，当前以AI Agent最为热门，AI Agent是一种具有自主性或半自主性的智能实体，能够利用人工智能技术在数字或物理环境中感知、决策、采取行动并实现目标。AI Agent具有自动执行任务、做出决策以及与周围环境智能互动的能力，因此有可能彻底改变各行各业和各种环境（详见《2024中国AI Agent市场指南》）。

Q2：大模型的未来发展趋势是什么？

第一，模型“瘦身”。虽然过去几个月市场上推出了很多超大规模参数模型（千亿级别），但未来可能会出现更多针对特定用例的中模型甚至小模型。这些针对特定用例的“小”模型在场景适用性、模型规模、数据集、成本等方面具有明显优势。

第二，开源大模型将挑战“最先进”的闭源大模型。开源大模型正日益受到重视并对闭源大模型产生威胁，未来开源大模型和闭源大模型之间的差距可能会逐渐缩小。

第三，领域大模型。市场上将出现越来越多的垂直领域大模型，尤其是在金融服务、医疗保健等领域。这些模型大多基于通用大模型构建，但具有领域特定数据。

第四，大模型的商业化。随着越来越多的开源大模型涌现出来，大模型可能会迅速变得大众化。但是企业可能仍愿意为安全性更高、软件发布更敏捷以及性价比更高的大模型付费，大模型市场将从卖方市场逐渐转变为买方市场。

第五，对大模型的监管将改变模型的训练和发布流程。2023年7月，国家网信办等七部门联合了公布《生成式人工智能服务管理暂行办法》，但目前国内针对大模型的监管还不够完善，这将影响大模型训练过程的成本和频率，提高大模型开发者的准入门槛。

第六，多模态大模型拓展应用场景。多模态大模型将进一步提升模型性能，增强通用性。这种多模态的组合将在生成式AI中开辟新的用例，并改变用户界面（向语音交互等模态发展）和体验。

第七，AI Agent。大模型需要大量的人工干预和技能进行引导，虽然AI Agent的“黑盒”属性可能会带来未知的风险，但是AI Agent可以自主行动并减少人工干预，完成更加复杂的任务。

更多有关大模型市场的信息请参考《2024中国大模型市场指南》。

02

应用场景和价值

Q3：企业如何识别大模型应用场景的业务价值、成本与风险？

沙丘智库将企业的大模型应用分为三类：

• 防御型用例：改善特定任务，但不会给企业带来额外的竞争力，例如员工办公助手、代码助手、营销内容生成等；

• 差异化用例：改善特定的业务流程，为企业带来差异化优势，例如客服助手、销售助手等；

• 变革型用例：创造新的产品、市场或流程，通常具有行业属性，例如智能理赔（保险）、药物研发（医疗）等。

每类用例具有不同的潜在收益、成本和风险，详见《如何确定大模型用例的业务价值、成本与风险》。

Q4：企业应如何选择大模型应用场景？

针对众多大模型应用场景，企业应从业务价值和可行性两个维度进行应用场景的筛选和优先级排序。

在《2024年中国证券业大模型应用场景评估报告》中，沙丘智库确定了当前对证券公司最有价值、最具可行性的17个具体应用场景，包括投顾助手（对内）、投研助手、编码助手、风控合规助手、文档撰写助手、智能办公助手、市场情绪分析、智能客服、风险预警、量化因子挖掘、智能营销、自动化交易、虚拟数字人、基于大模型的智能投顾（面客）、投资组合管理、监管合规政策解读、客户身份验证。同时，根据对证券公司与大模型技术厂商的调研，对这些应用场景按照业务价值与可行性进行优先级排序，旨在为证券公司的大模型应用选择提供参考。

在《2024中国保险业大模型用例分析报告》中，沙丘智库确定了当前对保险公司而言最有价值、最具可行性的16个具体用例，包括营销素材生成、条款自动审核、代理人销售助理、核保辅助支持、销售机器人、智能理赔、数据分析、员工知识问答助手、基于大模型的客服机器人、保单摘要、编码辅助工具、数字员工、代理人智能陪练、欺诈规则发现、智能运维、智能办公助手。同时对这些用例按照业务价值与可行性进行优先级排序，旨在为保险公司大模型应用选择提供参考。

在《2024中国企业IT部门大模型应用场景评估报告》中，沙丘智库确定了当前对企业IT部门最有价值、最具可行性的15个大模型应用场景，包括代码生成、测试用例和数据生成、威胁检测、非结构化数据处理、IT流程自动化、代码注释生成、代码评审、合成数据生成、自动文档生成、IT问答助手、数据管理、故障排查、日志监控、供应商管理和软件开发规划。

Q5：中国企业大模型落地进展如何？

为了更好地理解大模型技术在企业中的应用情况，2024年10月，沙丘智库面向86名企业技术相关负责人发起调研，旨在探索和评估企业在采纳大模型技术方面的进展、挑战和机遇。基于调研结果，沙丘智库正式发布《2024中国大模型技术采纳现状调研报告》。

根据调研结果，中国企业大模型采纳现状如下：

· 中国企业正在积极探索大模型，52.3%的企业正在使用、31.4%的企业计划使用。从行业来看，金融、IT/互联网、通信、能源等细分行业引领大模型技术应用；

· 但与全球相比，中国企业正式投入生产的大模型应用相对落后（全球为21%、中国为9%），且正式投产场景中，以赋能型应用为主，直接面客类应用较少，难以使企业获得差异化竞争优势；

· 影响企业大模型采纳的关键因素包括缺少合适的落地场景、数据可用性和数据质量问题、大模型能力和应用成熟度不足。

此外，针对银行、国央企、工业等细分行业，沙丘智库也进行了系统性的大模型应用跟踪：

在《2024年中国银行业大模型市场跟踪报告-标杆篇》中，沙丘智库将六大国有银行作为标杆对象，研究六大国有银行的大模型布局、落地路径及应用场景等，旨在帮助其他银行洞察技术趋势、识别市场机会、学习成功经验、评估与管理风险。

在《2024年国资央企大模型应用跟踪报告》中，沙丘智库深入分析国资央企大模型的落地现状（包括建设目标、建设进展、建设路径、应用场景等），并选择8家头部国资央企（中国电信、中国移动、中国联通、国家电网、南方电网、中国石油、中国石化、中国一汽），深入研究其“AI+专项行动”布局与大模型实践，旨在为其他央企提供参考。

在《2024年中国工业大模型应用跟踪报告》中，沙丘智库深入分析工业大模型的落地现状（包括渗透环节、场景分布、细分行业分布、模型类型、建设路径等）、典型案例和未来展望，为工业企业大模型建设提供决策参考。

Q6：有哪些值得参考的落地案例？

《生成式AI案例研究简报（2024年7月）》收录了截至2024年7月，276个当前已产生阶段性成果、值得企业参考的大模型案例简报，涉及32个应用场景、29个细分行业，旨在帮助企业快速了解大模型技术最新、最全面的落地情况。

《大模型应用跟踪月报（2024年10月）》收录了2024年10月公布或沙丘智库当月调研的51个大模型案例，覆盖12个行业、16个应用场景。（后续沙丘智库《大模型应用跟踪月报》将采取按月更新的方式，帮助企业及时了解大模型应用的最新进展，调整战略规划，确保技术投资与未来的发展方向一致。）

《2024年中国证券业大模型案例跟踪报告》精选了包括中金公司、国泰君安、中信证券、中信建投等在内多家头部券商的51个大模型落地案例，展示了大模型在证券行业的主要应用场景，旨在帮助证券公司更好地选择大模型应用场景，进行合理的资源投入与分配。

03

技术实现路径

Q7：企业应如何选择大模型的训练方式？

企业在训练特定任务的大模型时，微调并不是唯一可选项，提示工程和检索增强生成（RAG）是主要的替代方式。

• 提示工程：通过向大模型提供数据，指定和限制大模型可以产生的回答，指导模型输出。提示工程可以在不更新模型参数的情况下产生预期效果。

• 检索增强生成（RAG）：检索增强生成是一种特殊的提示工程，可以在基础模型外部检索数据，并将检索到的相关数据注入到上下文中，增强提示信息，使大模型的输出以新信息为基础。

基于对微调优劣势的分析，企业在训练大模型时，应先尝试提示工程和检索增强生成，进行试点和反复试验，只有在这些训练方式不足以提高模型性能时再考虑微调（详见《企业考虑是否微调大模型的决策框架》）。

Q8：企业如何优化RAG系统？

在实践RAG的过程中，企业会发现RAG走通很容易，但实际落地生产的难度非常大。在《2024年“大模型+RAG”最佳实践报告》中，沙丘智库基于对企业RAG落地实践的调研与研究，为企业提供一份全面的RAG应用指南，以及18个典型案例作为参考，例如：

· 在数据准备环节，阿里云考虑到文档具有多层标题属性且不同标题之间存在关联性，提出多粒度知识提取方案，按照不同标题级别对文档进行拆分，然后基于Qwen14b模型和RefGPT训练了一个面向知识提取任务的专属模型，对各个粒度的chunk进行知识提取和组合，并通过去重和降噪的过程保证知识不丢失、不冗余。最终将文档知识提取成多个事实型对话，提升检索效果；

· 在知识检索环节，哈啰出行采用多路召回的方式，主要是向量召回和搜索召回。其中，向量召回使用了两类，一类是大模型的向量、另一类是传统深度模型向量；搜索召回也是多链路的，包括关键词、ngram等。通过多路召回的方式，可以达到较高的召回查全率。

· 在答案生成环节，中国移动为了解决事实性不足或逻辑缺失，采用FoRAG两阶段生成策略，首先生成大纲，然后基于大纲扩展生成最终答案。

Q9：企业如何在开源和商业模型之间进行选择？

当前大部分大模型仍然是闭源的，但可商用的开源大模型正在快速发展，且和闭源大模型之间的距离逐渐缩小，开源大模型的主要优点包括可定制性、隐私性和安全性、利用社区协作的能力、模型透明度以及灵活性（详见《开源大模型的优劣势》）。

企业可以利用云基础设施进行开源模型微调和推理，或者选择较小的开源模型进行轻量级微调然后部署在企业本地。

Q10：企业如何选择大模型的建设路径？

对企业而言，大模型的建设路径有多种，企业需要了解每种大模型建设路径的技术差异以及优缺点，考虑所有关键因素，由此选择最合适企业的大模型建设路径。

沙丘智库将大模型的建设路径分为五种：购买嵌入了大模型的应用、调用大模型的API接口、通过信息检索扩展大模型、在大模型的基础上微调、自建基础大模型，沙丘智库对比了这五种大模型建设路径的优劣势，并为企业提供了一种选择大模型建设路径的决策框架（详见《企业如何选择大模型的建设路径？》）。

Q11：企业如何选择大模型的部署方式？

随着大模型API接口平均价格的不断下降，云部署解决方案在未来的优势将更加明显。技术的快速发展和系统架构的日益复杂化，将使得云部署解决方案因其灵活性、可扩展性和易于管理的特点，在多种应用场景中优势更加明显。因此，企业需要重新评估其AI部署策略。（详见《大模型价格战将加速企业大模型部署策略向云端迁移》）

04

安全和风险管理

Q12：企业使用大模型的风险是什么？

企业在使用大模型时的潜在风险包括：数据隐私和保密性、生成内容的准确性、网络安全、员工滥用、违反法律法规、供应商风险，企业需要实施相应的治理和安全控制措施，并了解数据、隐私和安全相关的法律法规（详见《企业使用大模型的风险与应对》）

基于大模型的AI Agent利用大模型理解、思考输出的“专家能力”，并附加规划、记忆、执行、工具调用能力，可以替代大量人工执行，消除大模型和真实世界沟通的障碍，解决大模型落地的“最后一公里”，但同时也带来了新的安全风险。AI Agent在执行任务时可能引入的一系列安全问题，包括数据安全、资源管理、恶意活动、编码错误、供应链安全以及恶意代码的传播等，这些问题需要通过适当的安全措施进行解决。（详见《AI Agent特有的安全风险与应对措施》）

*更多生成式AI研究可前往“沙丘智库”小程序查阅

*有任何需求可咨询客服微信：zimu738