我们发现大部分的场景落地，是企业的IT部门或者数字化部门在牵头去找业务场景，真正有业务部门深入参与的落地的案例还是相对有限。所以我觉得首先需要了解大模型的核心能力，特别是能够跟企业业务场景结合的能力，只有更熟悉它的能力边界后，才知道在哪些场景可以落地。

01

AI大模型在企业场景落地的核心能力

语义检索是大模型具备通识，除了关键词检索之外，对于相关语义的检索能力也比较强，这个胜于传统 NLP 技术。

第三个是内容生成，原来讲比较多的是素材生成方案，在这里想重点强调的是一个案例的反馈迭代。传统AI 模型有一个非常大的问题，就是它的维护成本很高。以客服场景为例，客服机器人上线后，后期持续维护和迭代成本非常高，因为会有新的语料不断生成，把新的政策、新的问答加入到其中，这就意味着知识库需要不断地调整，这个过程中需要大量的人工去做。现在大语言模型有比较好基于用户案例反馈的机制，用户端会看到基于问答答案的点赞或者点踩，这个本质上是给好的反馈。这种好的反馈本身是可以反向生成最佳案例，这些案例进入到知识库当中会让整个案例持续迭代和反馈，这个就体现出大模型具备一定记忆能力，会越用体验越好，再加上它能自动化的生成内容，这块是一个很强的能力。

02

企业端比较好落地的场景

首先，从刚才讲的AI大模型的核心能力看，知识库在企业场景方面是非常核心的，不管是直接模型调用，还是训练行业垂直模型，都非常依赖企业知识库。这就意味着在选择落地场景时文档相对丰富的场景是比较好落地且能产生效果。第一个落地场景是客服，在绝大多数企业内部，客服的文档是相对比较全的，比如给客服人员的文档、话术等。第二个落地场景是合规，政策制度基本都是成文的，能比较好地去使用。第三个落地场景是科研，科研里面有大量的论文。所以是否可以很好的落地，重点在于是否有丰富的文档，因为大语言模型很擅长处理非结构化数据。

03

实践落地案例

接下来分享一个结合企业知识库，提升智能问数准确率的解决方案，是参考我们的合作伙伴数势科技，这个方案从实现的角度来说，第一个是知识库非常关键，因为企业内部有大量的专有名词，这些名词企业内部人比较熟悉，但是大语言模型比较难去理解。所以最好是挂知识库，才能够使准确性提升。第二个是和指标平台做连接，直接做 NLP to SQL 的准确性实在是太低了，如果是to指标的话相对会比较容易，因为指标基本上都是带有业务语言的，一个用户在做意图理解和业务语言匹配的时候，是比较容易匹配上，指标这层基本上都会有业务属性，所以这个是现在比较常见的一种落地方式。

第二个案例是设备诊断，从场景角度来说，设备诊断一定要覆盖全流程，这样数据量比较大且覆盖全。这个场景下最大的问题是数据量不够，积累的故障数量比较有限。因为大量的故障来自于点巡检，所以通过点巡检可以发现更多的潜在故障和潜在信息。另一方面，维修工程师有一个很大痛点是点巡检前期拿到的数据信息不够全。通过设备诊断助手场景帮巡检员补全数据，这样才能把点巡检、设备故障这件事做好。故障诊断，到维修方案生成，再到最后的零配件，这才是一个完整的流程。从客户的角度来说，他要的不仅仅只是一个维修方案，要的是一个完整维修工作包，包含维修方法、维修工具、零配件领取等。