本指南提供全面的AI大模型部署指导，涵盖AI大模型的发展概述、战略决策和部署步骤、方法及选型建议。该指南还指出部署过程中的常见误区，并提供策略自检工具。

AI大模型发展关键节点

LLM开启的生成式人工智能到底可以解决什么问题，与之前相比，进化在哪儿？

企业由数字化阶段迈入智能化阶段，AI能力成为企业核心能力

核心观点：

• 智能化是互联网化、数字化的延伸而不是颠覆，演进过程中，技术的价值从过程逐步向结果转移；

• 未来企业，组织形态将会被重构，组织边界模糊，组织结构灵活机动，以AI为核心重新定义；

• 企业的AI能力（含“AI”量）成为核心能力。

大模型所加速的生成式人工智能已经渗透到多个场景

大模型能力与AIGC相结合向企业经营关键环节渗透

行业应用全面铺开，实践案例示范价值在于效益比测算与优化

• 前端对客的核心价值与场景主要为提升服务体验，包括智能营销、智能客服等方面，同时也在中后台运营管理方面，例如信贷审批、核保理赔等流程性任务层面提升工作效率

•  智能投研与投顾、智能财富管理与量化交易等金融特定任务方面则需要进行金融大模型的训练与微调，探索创新价值

  
  

• 核心价值目前主要体现在面向用户运营侧的服务体验提升，以及营销运营过程中的内容生成与提效，主要应用场景包括智能客服、商品海报与文案生成等

• 中期数字人赋能用户营销正在提速，长期来看将从前端向中后台乃至供应链与产品研发延伸

  
  

• 产行业，包括图像、音视频、3D资产等，借助于大模型与AIGC能力首先提高内容生产效率是当务之急

•  无论是影视还是游戏，都在营造世界观与价值观的过程中需要故事线的引导与文本对话的链接，相对应地，短期看文本与对话生成等，中长期看智能NPC乃至游戏策略设计

  
  

• 围绕受教育者与C端用户：覆盖K12、高等教育、职业教育等不同类型，主要侧重于提升交互体验以及个性化教学方面展开

• 围绕赋能教育机构与施教者/老师：覆盖备课、教学、考试评测与学生管理多个环节，在原有教育信息化的基础上进行智能化升级

  
  

• 工业/制造行业是知识密集型行业，尤其是进入到工业细分行业，知识密度与信息壁垒，包括工艺、成分、流程等，都高度差异化，相应地，工业行业大模型的必要性甚高

• 目前主要在AI辅助研发设计、工业质检（即质量检测与缺陷分析）、生产流程智能化等方面应用，未来则需要探索AI+机器人的智能化升级，用大模型链接物理世界

  
  

• “AI+医疗”主要应用场景与价值在于电子病历生成与分析、AI辅助诊疗，包括AI影像识别与临床辅助决策等，赋能医生与医疗机构提高平均专业水平，提高工作质量与效率

• 新药研发利用语言模型等进行靶点发现、化合物筛选、临床实验研究等，尤其是在药物发现环节充分发挥探索性价值

  
  

AI大模型产业全场景图谱

02 AI策略的选择与决策

AI部署五步法

Step 0：理解AI，了解AI行业应用最佳实践

Step 1：场景选择的主要考虑问题

• 技术成熟度（可以参考Gartner的hyper cycle）

  
  

• 企业AI通用应用成熟度以及企业AI应用最佳实践

  
  

• 行业AI应用成熟度以及行业AI应用最佳实践

  
  

• 本企业的场景成熟度评估（需要考虑业务本身的健康度、标准化程度、AI化意愿等）

  
  

• 组织能力与团队（包括战略与文化、组织与团队、技能与培训等）

• 预算

• 数据

• AI工具和基础设施

• 其他

  
  

• AI投入成本分析

• AI的收益分析

• AI风险评估

  
  

各个行业应用专有场景的成熟度

中国生成式人工智能行业AMC应用曲线（2023）

各个行业通用场景AI化的成熟度

深入行业关键环节的AI价值渗透度

Step 2：目标制定

AI策略的目标，要有业务负责人把控而不是单纯的技术负责人。

Step 3：路径选择

企业部署AI大模型路径一：端到端自主训练大语言模型

端到端自主训练大语言模型已经成为国内科技巨头布局的重点之一，这不仅是基于商业考量，更是基于技术、战略和生态系统建设的全方位考量。

端到端自主训练大语言部署关键考量要素

端到端自主训练大语言模型更适用于有一定IT投入与研发能力的企业，有较为完善的云服务及数据生态。关键考量要素包括：投入算力资源的能力、AI工程化建设团队能力以及数据资源投入能力。

拥有自主研发和掌握的大语言模型将为科技巨头带来技术领先的优势，通过自主训练，科技巨头可以针对本土语言和文化特点进行优化，提供更贴近用户需求的智能服务。此外，大语言模型已经显现出在各行各业都有广泛的商业应用潜力，科技巨头同时对外输出模型服务。

企业部署AI大模型路径二：利用开源模型或与LLM供应商进行联合研发与微调，训练专有模型

联合研发与微调部署大模型路径的关键考量要素

利用开源模型或者联合研发与微调部署大模型路径更适用于有较强行业专属场景业务需求，并需要实现技术驱动赋能的企业。

关键考量要素包括：一定的算力资源基础与投入、基础模型选型或LLM供应商选型、自有AI团队实现专有模型可持续运营与迭代、专有数据储备沉淀与持续运营能力。

联合研发和微调部署路径为企业提供了一种灵活且高效的方式来推动企业AI大模型的部署，并且通过这种路径可以使企业能够更有效地利用现有大模型的技术成果和资源、快速提高自身创新能力，并更快地将AI应用赋能于自身业务优化上。

企业部署AI大模型路径三：采购或者利用开源大模型API，利用向量化方式优化自身应用

采购API部署大模型路径的关键考量要素

采购或利用开源大模型API的企业AI部署路径适用于大多数企业，IT能力建设并非重点，但是需要利用AI能力提效降本，赋能业务经营。

关键考量要素包括：企业自身应用对于AI能力的抽象以及对模型的驾驭能力，专有行业领域数据以及企业业务数据沉淀以及向量化处理能力。

采购API并将其部署是中型企业在借力AI能力升级服务水平与平衡AI投入成本后普遍采取的方式，API部署通常更快速，企业无需从头开始构建AI模型或基础设施。此外，API提供了灵活性和可扩展性，中型企业可以根据实际需求选择适合的API，避免过度投资和资源浪费，还可以根据业务增长的需要轻松扩展或调整API的使用。

企业部署AI大模型路径四：调整企业应用的选型策略，提升AI能力评价权重

提升AI能力评价权重的方式部署路径的关键考量要素

以调整企业应用的选型策略，通过提升AI能力评价权重的方式来部署AI的路径适用于大多数企业拥抱数智化的场景，是企业软件AI能力的整体升级。

关键考量要素包括：以业务经营为目标适配驱动AI部署，提示工程能力，更新企业软件选型标准与合作伙伴等。

通过这种路径可以有效提升企业业务效率、增强用户体验、开拓新业务机会、降低成本和风险，并符合数字化转型的趋势，有助于企业提升竞争力并实现持续发展。

Step 4：大模型企业与合作伙伴选择

中国主流大模型选型评估——模型能力x产品能力

中国主流大模型应用选型评估矩阵2024

• 选取中国大模型12家代表厂商进行评估。本应用选型实力矩阵评估主要聚焦于产品能力的模型应用选型，从模型能力和产品能力两个维度综合反映大模型应用选型市场上主流大模型的市场表现和竞争地位的研究模型。

  
  

• 随着大模型的发展受到多方面利好支持以及AI大模型赛道的不断发展，各大模型将继续在产品能力上进行优化和提升。总体来看，中国主流大模型在产品能力方面呈现出百花齐放的局面，各具特色的产品为企业在不同领域的智能化转型提供了多样化的选择。随着技术的不断进步和市场需求的不断变化，各大模型的产品能力必将在未来继续提升，为企业带来更多的创新机会和商业价值。

  
  

中国主流大模型选型评估——模型能力x生态能力

中国主流大模型应用选型评估矩阵2024

• 选取中国大模型12家代表厂商进行评估。本应用选型实力矩阵评估主要聚焦于生态能力的模型应用选型，从模型能力和生态能力两个维度综合反映大模型应用选型市场上主流大模型的市场表现和竞争地位的研究模型。

  
  

• 大模型的生态发展策略和布局日益受到重视，各大模型企业通过构建开放、协同的生态系统，增强其生态发展能力。例如，大模型企业积极与上下游合作伙伴、科研机构和行业用户紧密合作，共同开发和推广大模型应用。这样的生态系统不仅提供丰富的应用场景，还促进了技术的快速迭代和优化。

中国主流大模型选型评估——模型能力x可持续发展能力

中国主流大模型应用选型评估矩阵2024

• 选取中国大模型12家代表厂商进行评估。本应用选型实力矩阵评估主要聚焦于可持续发展能力的模型应用选型，从模型能力和可持续发展能力两个维度综合反映大模型应用选型市场上主流大模型的市场表现和竞争地位的研究模型。

  
  

• 大模型企业均加大对可持续发展计划的战略和投入。首先，各企业不断增加研发投入，推进技术创新，确保在技术前沿保持竞争力。其次，人才是可持续发展的核心。通过与知名高校和科研机构合作，企业不仅培养大量专业人才，还吸引顶尖专家加盟。最后，各企业制定了详尽的长期战略规划，明确未来的发展方向和目标，以确保企业在激烈的市场竞争中保持持续的创新动力和发展活力。

  
  

主流大模型选型评估版本及相关简介

MaaS（Model as a Service）成为主流商业模式，为企业和开发者提供快速构建和部署AI大模型及应用的途径

• MaaS业务形态的出现将加速AI大模型的创新和应用开发，从而更便捷地实现行业定制化和个性化应用。

  
  

•  MaaS为企业和开发者提供了快速构建和部署AI大模型及应用的途径。通过利用云端的弹性计算资源和预训练的模型，开发者能够更迅速地将创意转化为实际的产品和服务。通过MaaS，企业能够规避高昂的建设和维护成本，而只需根据实际使用情况支付费用，这使得小型企业和创业公司也能够充分利用先进的机器学习技术，从而推动更多的创新发生。

  
  

• 此外，MaaS不仅能够提供预训练的通用模型，还能够为特定行业或应用场景定制模型，企业和开发者可以根据自身需求对模型进行定制和优化，从而实现更精准和个性化的应用。

阿里巴巴：大模型MaaS解决方案

大模型Maas服务应用的基本架构

AaaS（Agent as a Service）将帮助大模型最终落地于多元应用场景中

• AaaS（Agent as a Service）通过简化大模型的部署和管理、灵活应对不同应用场景、提高资源利用效率、提供持续更新和维护、加强数据安全和隐私保护以及支持多种交互方式，极大降低了技术门槛，使得大模型能够广泛应用于各种行业和场景，推动其最终落地。

大模型驱动的自主智能体系统架构

• 一个基于大模型的 AI Agent 系统可以拆分为大模型、规划、记忆与工具使用四个组件部分。

• Agent = LLM + 规划技能 + 记忆 + 工具使用的基础架构，其中 LLM 扮

演了 Agent 的“大脑”，在这个系统中提供推理、规划等能力。

AI Agent的多元应用场景

03 企业部署AI的常见误区

误区一：把手段当做目的，认为AI技术投入直接决定了企业核心

竞争力

企业加大AI投入时，应避免仅关注短期效率提升和成本下降。AI的真正价值在于推动业务模式创新和持续发展。企业需从战略层面考虑AI应用，确保其与核心业务和长期目标紧密结合。通过利用AI开发新产品、优化客户体验、创新营销策略，企业不仅能提高效率，还能增强创新能力和市场竞争力，实现创新驱动的发展。企业应将AI视为战略资产，结合商业模式和核心竞争力，确保AI投入带来长期商业价值。

误区二：只关注显性成本，忽视AI应用规模化普及带来的成本投入

企业普遍压缩成本支出的背景之下，AI投入成为少数仍然增长的板块之一，这对于AI技术的快速渗透和价值落地是具有重要意义的。同时，也出现了部分企业在进行AI投入财务测算的过程中，存在着结构性的误区，如下图所示，企业普遍能够充分认知模型的训练与部署，以及生成式人工智能应用上线的部分需要成本投入，但是有可能忽视后续模型与AI应用的过程中发生的成本支出。其一，模型的训练是一个持续的过程，监控模型性能变化进行优化、保护数据集以及由此带来模型安全等问题也是一个持续投入过程；其二，表面上看，模型推理成本不断下降，但是企业需要考虑的是总推理成本与AI应用受益之间的平衡等。

误区三：对AI投入收益预期过快，未充分考量收益的阶段性变化

在当前的市场环境上，企业都希望可以通过AI带来新的业务增长。但是AI部署后短期内还是先带来效率的提升以及人员成本的节省（如果考虑训练成本可能不能给企业真正节约成本）。真正可以让企业感受到业务变化的收入增加、满意度提升等最快都要2-3年。企业部署AI要有合理的收益预期。

误区四：将模型能力作为唯一标准，忽略AI应用落地是系统性工程

大语言模型与生成式人工智能应用落地是系统工程，相应地，在如下各个环节都需要进行提前规划和设计，才能在引入AI应用部署到生产环境之后也能够持续稳定安全输出价值。但是，企业普遍目前在AI规划与合作伙伴选择的过程中，过于聚焦模型能力本身，而可能忽视合作伙伴在产品封装和体验、生态能力建设等方面的考虑，需要一并纳入合作伙伴选择和评估的范畴。

误区五：在AI应用的风险控制方面走极端，或忽视或过于谨慎

企业在部署人工智能（AI）时，若忽视潜在风险，可能会急于将未经充分测试的系统投入实际应用。这样做不仅可能导致数据泄露、产生偏见结果，还可能触犯行业合规性要求。相反，如果企业过于关注风险，可能会陷入分析瘫痪，导致犹豫不决，错失AI带来的巨大机遇。

因此，成功部署AI的关键在于找到一个平衡点，既要充分识别和管理潜在风险，又要敢于把握AI带来的机遇。这包括进行彻底的风险评估、确保数据安全和隐私保护、建立透明的AI治理框架，以及在部署前进行充分的测试和验证。通过这样的方法，企业可以确保AI系统的可靠性和合规性，同时充分利用AI的潜力来推动业务增长和创新发展。

模型安全与可控制问题

• 模型的安全性和可控制性，关键在于确保其在遵守安全规范和法律法规的同时，满足不同行业风险管理和用户安全需求。这是AI领域的主要挑战，目前通过安全训练部署流程、实时监控干预机制和增强技术来提升。

  
  

模型的可解释问题

• 模型的可解释性，不仅包括使人工智能模型的理解和决策过程对人类用户透明，还涉及与不同领域的专业知识、不同类型用户的需求以及应用场景的具体要求相匹配。这也是目前人工智能领域面临的主要挑战之一。目前通过直观模型结构、决策可视化技术和增强可解释性来实现。

  
  

大模型的对齐问题

• 对齐问题，既包括人工智能与人类社会价值观保持一致，也包括与不同国家价值观，不同类型企业经营以及商业法则相匹配等，前者最为关键，这也是目前最为关注的AI不受控制的风险之一，目前在通过RLHF与RLAIF不同方式来实现。

信息的知识产权、数据隐私和数据安全问题

• 模型应用中的数据隐私和数据安全，关键在于确保AI模型在处理数据时遵守隐私保护和安全规范，同时满足不同行业的数据管理需求和用户隐私期望。这是AI领域的主要挑战，目前通过加密技术、数据访问控制和隐私增强技术等措施来实现。

  
  

AI部署建议：业务为纲，机制兜底，关注与AI驱动相适应的组织能力建设

01 业务为纲规划人工智能上线与推广计划

“所有行业都值得用大模型重新做一遍”，前提是围绕用户与客户价值的体验升级与业务发展，相应地，人工智能与企业数智化转型一致，业务驱动是核心原则，围绕业务发展扫描数智化洼地，规划人工智能应用用例，获取业务价值，并形成迭代优化扩大AI应用范围的闭环。

02 专有数据资产沉淀与管理，应对模型训练与应用

无论是自主训练大语言模型，还是围绕自身行业与业务场景进行模型精调，都需要依赖于企业过往积累的专业领域知识沉淀，进行专有数据语料的准备，从而能够让基础模型的“通才”能力发展成为具备行业属性的“专才”，专有数据是未来模型能力平民化后的重要差异化。

03 设定人工智能应用合规与风险管理防范机制

生成式人工智能仍然可能出现“幻觉”、数据泄露等各种风险；同时，关于人工智能与大模型应用方面的立法与规范仍然处于意见征集与调研的过程中，企业有必要主动制定人工智能应用合规与风险管控机制，包括AI开发、应用与审核规范，数据安全规范，员工应用权限规范等等，从而“安全合规”地应用人工智能提升企业竞争力。

04 组织系统协同员工能力协同进化与升级

未来组织能力围绕人工智能发展，既包括创造人工智能，也包括应用人工智能，前者是少数，主要在于提升人工智能专业与高级人才密度，并通过组织协同设计，系统化地提升人工智能科研与工程化水平。

后者是多数，也就是大部分人工智能企业更需要考虑的是，人工智能应用，尤其是生成式人工智能全面铺开的过程中，对于组织架构、组织中关键角色与职能、以及对于员工的潜在影响等。

对于个体而言，普遍关注“人工智能会/不会替代什么职业”，甚至引发了对于某些职业发展方向的焦虑，一方面，积极的员工与个体正在迅速拥抱人工智能，在工作的过程中应用生成式人工智能提升工作效率，可能正在出现人工智能赋能于员工优先于组织的情况；另一方面，大众员工可能出现观望、等待甚至无所适从，“无用”内卷的状况，。

这就需求企业对于组织角色与员工发展进行整体规划，不同职能与角色人与人工智能的协同边界如何确定，组织中关键角色与员工的技能与“AI商”升级如何系统化通过培训等手段推动，都是企业系统化提升组织能力与竞争力的关键举措

企业AI决策自测问题