我要投稿

喜马拉雅基于大模型 ChatBl 实践探索

发布日期：2024-10-11 14:35:00 浏览次数： 2041 来源：DataFunTalk

导读本文将分享喜马拉雅基于大模型 ChatBI 的实践探索，文中将重点介绍关于准确性和大模型幻觉等问题的解决方案。

主要内容包括以下四个部分：

1. 背景介绍

2. 产品架构介绍

3. 落地实践

4. 未来展望

分享嘉宾｜陈叶超喜马拉雅数据平台负责人

编辑整理｜薛明慧

内容校对｜李瑶

出品社区｜DataFun

背景介绍

喜马拉雅在数据分析领域面临诸多挑战。

对于业务来说，使用数据的门槛高，需求响应的时效性差，看板、产品不灵活，难以满足使用需求。运营人员通过自助取数产品查看数据，再用表格里的透视图进行分析，整个流程非常低效。

对于数仓、BI、数据开发人员来说，资源有限，开发成本高，排期压力大，并且数据消费效率低，数据仓库中很多加工好的高质量数据没有通过产品输出，使得数据价值没有得到最大化地释放。

因此，我们希望利用大模型，建立一套既能够释放开发压力，又方便业务人员使用，从而使数据价值得到充分发挥的 BI 应用。

产品架构

1. 联合建模需求场景

我们利用大模型开发了一个 ChatBI 产品。产品形态有三种：网页端、钉钉机器人，以及对外提供的 API。

上图中展示了几个真实的例子，可以看到，该产品不仅可以供运营人员使用，也可以为数据开发治理团队提供支持。

2. 产品结构

产品架构分为两个层面 ChatBI 层和数据智能引擎层。ChatBI 层提供了钉钉机器人、网页端和开放 API 接口给用户使用；背后的数据智能引擎，通过 Agent 智能体对用户的提问做意图识别，包括用户指导、指标口径、数据查询、SQL 生成、数据开发和数据治理等不同类别的 Agent 智能体。

整体架构分为五层，自下而上分别为：

模型接入层：借助公司的大模型平台，接入了 embedding 模型、商用文本模型、自研文本模型和自研音频模型等。
数据集和知识管理能力层：大模型生成 SQL 的准确性至关重要，而准确性非常依赖于 prompt 上下文，知识处理就是为了更好地表达上下文。在这一层，使大模型学习数据库中的表信息、业务知识、专业词汇、规则和一些 SQL 方言，可以更好理解 prompt，从而做出更为准确的回答。
工具能力层：提供了解决用户问题要使用的工具，包括检索增强、会话记忆、DB 查询、语法检查、权限校验等工具。同时为了保证质量，我们还构建了一套自动测试评估体系，以及反馈和日志追踪体系。
智能体能力层：包括意图识别、智能改写、智能选择数据集、NL2SQL、智能问数、数据绘图、指标口径查询、分析总结和 SQL 自动纠错等智能体。
产品能力：基于上述大模型、Agent 和工具的能力，产品提供了智能选表、智能问数、智能问指标、单表问答、多轮问答、联表查询、智能绘图、分析总结等功能。
产品形态：通过钉钉机器人、网页版和开放 API 接口提供给用户使用。

3. 智能问数发布流程

首先将表、字段知识、SQL 方言、词汇知识、规则、业务知识和样例等数据加工，建模、治理保存到数据仓库中，建立领域知识库，完成知识准备；将非结构化知识向量化处理，结构化知识关系化处理，存成图关系数据；构建评测问题，测试评估知识库，根据评测结果优化知识库；数据集问数发布后根据用户使用反馈优化数据源和数据知识，通过提示词 prompt 工程、RAG、Agent 工程优化、模型微调等不断升级迭代模型。

落地实践

1. 人是怎么写 SQL 的？

大模型是模拟人的思考过程而设计的，所以首先看一下人是怎么写 SQL 的。要写一个 SQL 会经历几个阶段，首先是找到需要使用的表和字段，并理解字段的含义，包括字段类型和值；接着定义同环比和时间，理解黑话、同义词和口径，比如DAU 代表什么，大亲子业务又指的是什么；还要了解不同的 SQL 方言和语法，比如MySQL 中是 WEEKDAY，而 StarRocks 中则是 DAYOFWEEK、DAYOFWEEK_ISO，又如 DAYOFWEEK 本周第一天是从周日开始的。

例如上面这个问题：“本周小说频道的专辑 DAU 趋势如何？环比？”将这句话拆开看，用到了时间语义规则、字段枚举知识、企业专业知识、同环比规则，以及自动化图表展示等知识。

用户可能还会追问。

根据上述过程，最终的链路为：用户提问后，首先对用户意图进行识别，明确要解决的问题；将用户提问进行改写，从知识库中搜索召回指标描述，补充时间、规则和指标描述等；通过大模型返回数据集结果，通过将提问在知识库中搜索召回数据集结果，将这些结果排序后，选择数据集；判断数据集类型是指标和表类型，若是指标，通过服务 API 取数，选择图表展示；如果数据集类型是表，将改写后的提问补充知识库扩写成 prompt，输出 NL2SQL，对 SQL 进行校验、纠错、取数、选择图表展示；将图表返回给用户。

2. 大模型推理优化

大模型推理优化的主要方法包括：

Prompt Engineering：为大模型提供好的角色、指令和上下文；
RAG：为大模型提供更加精准的知识，限定上下文输入，解决模型幻觉等问题；
Fine-Tuning：指令遵循等；
RAG+Fine-Tuning；
智能体 Agent：将复杂的工作规划为多智能体的结构，对各部分分别进行优化，从而提升整体效率；
大模型迭代升级。

优化工作包括如下一些层面。

知识层面：完善表信息、提高规则质量，提供足够好的样例，建立高质量的知识库。

技术层面：优化 prompt 提示词工程，拆分为多个智能体，各司其职，基础模型的升级迭代和微调，采用多路召回和重排（包括向量召回、关系化召回、大模型召回等）。

产品层面：首先是提高和用户的交互性，通过推荐给用户高频问题、展示数据集信息、选择引导等提供给用户更多信息，让用户提问更准确；并且通过多轮提问，保存用户聊天信息，点赞、点踩、标记的内容等辅助判断用户提问意图，返回更准确的回答。另外，增强可解释性，取数过程可追溯，展示取数逻辑、数据集信息、数据表说明、解释业务知识等。

质量评测层面：保证足够的单元测试，构建充足的数据集问数测试，保证测试验证全面有效，同时后台标注线上运行结果，定期复盘。

Trace 层面：保证问数全链路可追踪和反馈，持续改进产品和模型学习。RAG&Recall Trace：每个阶段知识过滤、数据召回、重排情况；LLMs Trace：生成的 SQL、Prompt、返回的结果；意图识别 Trace：路由、智能体的选择；工具 Trace：API、SQL、权限 Trace 等；状态机：意图识别、数据集选择状态、SQL 生成阶段、查询数据阶段等；用户反馈 Trace：点赞、点踩、标记、问题分类、状态等；Cost Trace：每个阶段的时间消耗、Token 消耗。

3. 上线效果

上线两周，UV 超过了自助取数工具，PV 已经过半；取数响应效率比传统取数效率快数倍；准确率达到了 85% 左右。

我们期望最终形成数据智能飞轮。通过持续优化，让 ChatBI 更智能、更懂用户，同时其中的问题不断积累，让我们有更多、更好的数据，数据得到更好地消费，为用户提供更好的体验，使运营决策更便捷，业务更成功。

未来展望

未来将继续提升产品能力，包括意图识别、智能改写、智能修复、智能图表展示的能力。同时，探索 DataOps 相关智能体，例如 SQL 生成、SQL 优化、排查等智能体。另一方面，将智能体与之前构建的产品能力相融合，让所有数据产品都具备自然语言的交互能力。

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费场景POC验证，效果验证后签署服务协议。零风险落地应用大模型，已交付160+中大型企业

160+中大型企业正在使用53AI

立即咨询预约演示

百度智能云邀53AI：共创AI新纪元，启航智能新时代

2024-05-27

钉钉恒星计划：53AI与百余位企业家及钉钉生态伙伴，共议“AI 浪潮下的新机遇”

2024-05-22

热点资讯

重磅！Ilya创办人工智能公司SSI：直接迈向安全超级智能

2024-06-20

万字长文：你必须要读的瑞幸咖啡AI应用战略

2024-06-14

【万字长文】AI智能体驱动未来商业，深度剖析11种AI Agent商业模式

2024-06-16

行业探索｜AI在法律行业中的创新应用

2024-07-03

一文彻底搞懂大模型实战 - 文本到SQL（Text2SQL）

2024-10-14

AIOps在小红书的探索与实践——故障定位与诊断

2024-10-09

如何利用生成式AI优化制造企业的生产流程？

2024-06-14

API调用大模型如此方便，为何企业还要私有化部署大模型？

2024-06-06

腾讯音乐开源的 Chat BI 平台

2024-07-24

WrenAI-Text-to-SQL：用智能技术解锁数据潜能，助力业务增长！

2024-05-31

大家都在问

我们需要什么样的AI搜索？

2025-01-13

腾讯OlaChat：LLM如何重塑智能数据分析新生态？

2025-01-07

数势科技智能分析AI Agent 何以在市场中脱颖而出？

2025-01-02

阿里内部观点：智能化研发一年复盘，我们离真正的 AI 开发还有多远？

2024-12-25

准确率高达99%，ChatBI如何做到？

2024-12-25

“百度搜索们”会被“Kimi们”取代吗？

2024-12-13

如何用用 Parent-Child 分割提升问答系统的准确性？

2024-11-19

如何利用ChatBI和自助分析，实现数据驱动的企业决策？

2024-11-06

开箱即用的企业大模型应用平台

工作+AI

业务+AI

AIx业务

大模型咨询

大模型定制

相关资讯