我要投稿

ChatBI≠NL2SQL：关于问数，聊聊我踩过的坑和一点感悟

发布日期：2025-03-15 12:09:32 浏览次数： 1603 来源：AI粉嫩特攻队

"如果说数据是新时代的石油，智能问数就是能让普通人也能操作的智能钻井平台。"

还记得那些陷入Excel地狱的日子吗？当同事问你"上个季度我们的销售增长率是多少"，你只能叹口气，打开庞大的数据库，编写一段复杂的SQL语句，然后祈祷没有出错——这个过程通常需要半小时甚至更长时间。

而今天，这个问题的答案可能只需几秒钟。

当大语言模型遇上数据分析：一场静悄悄的革命

最近因为工作关系，我深入研究了智能问数产品（业内称为ChatBI）的开发过程。这种产品让人有种"最亲密的陌生人"的感觉——几乎所有人都听说过微软的Power BI，但真正理解其革命性的人却寥寥无几。

从微软的Power BI到现在基于大语言模型（LLM）的智能BI，技术已经经历了几次重大变革。现在有了Coze、Dify这类快速搭建工作流的工具，智能BI的搭建门槛已经大幅降低（曾试过在几小时内就搭建出来一个简易并可执行的应用，那刹那觉得自己很行）。

但别被表面的简单所迷惑——如何做得好用、做得准确，却不是简单的工作流就能解决的问题。这也是现存几乎所有ChatBI产品的痛点。

智能问数的本质：为什么我们需要它？

在深入技术细节前，我们需要思考一个根本问题：人类为什么要开发BI工具？

本质上，我们期望借助真实的数据指标来支持决策者做出更好的判断。而经历了这么多技术变革，原因有二：

这些冰冷的数字是最客观反映事物真实进展的方式，几乎每个决策者都在"对着数字说话"
在这个快速发展的社会中，易用、高效、智能已经成为了基本需求

插句题外话：当我们在快速追赶时代的脚步时，不妨在某些时刻让自己慢下来，思考我们追逐的究竟是什么。我很喜欢一句话："到底是什么样的追求，让你把沿途风景都错过？"

揭秘：ChatBI产品背后的技术架构

现在市面上的ChatBI产品技术架构可以说是百花齐放，我常惊叹那些先行者他们的判断与布局。总结起来，一个完整的技术架构通常包含这几个核心部分：用户交互、意图理解、数据执行、数据治理、以及越来越成为一种趋势的知识运营或者说知识沉淀（第一次从大神那听到“知识运营”的时候，那种震撼是无法描述的，真的很崇敬这些热爱思考的先行者）。

1. 用户交互：第一印象决定生死

作为研发人员，我曾经严重低估了前端设计的重要性。然而，用户交互设计决定了产品是否好用，是否能满足用户需求。

有一个重要的认知突破是：界面设计不应局限于传统的报表、大屏和指标报告。任何能够帮助决策者做出判断的形式都是有价值的。我们甚至可以让业务系统"自己解释自己"。下面是Sugar BI做的特色企业大屏模版，我第一次看的时候还是有种耳目一新的感觉的。

Sugar BI的特色企业大屏：打破传统数据展示的桎梏

除了与最终用户的交互外，还有一个常被忽视的环节：与运营/业务人员的交互。如何引导他们简单快捷地对数据进行治理和解释说明，这同样至关重要。

2. 语义理解：产品能力的分水岭

这是各产品能力的真正分水岭，也是保证问数产品准确度的关键环节。你是否遇到过这些问题？

"为什么这个指标大模型总是不理解？"
"这个商品名称为什么每次都搜不对？"
"产品为什么总是不理解我的问题？"
"同样是用户增长，市场部和研发部门的计算还不一样…"

在研发过程中，这些问题确实让我伤透了脑筋。自己开发的东西那一刻就像是个陌生人一样与我对坐，就像在说你倒是加把劲儿啊。

那就撸起袖子来挨个攻克吧，被难倒总不是咱们研发人员的宿命。这后面的抽象问题其实是语义模糊、实体难对齐、术语/黑话理解苦难、指标计算太复杂。

核心策略：我是从建立专有知识库这一点入手的，如果说术语或者指标难理解，那就建立相应的术语库与指标库，对用户的查询进行相关知识的检索。将检索得到的知识（甚至包括SQL）提交给大模型作为背景知识，去提升推理的效果。

从我的实验来看，这种方法带来的提升非常显著，而且维护成本并不高（因为大多数业务系统中已经包含了许多指标的计算逻辑）。

3. 数据执行：技术人员的主战场

这通常是技术人员最爱发力的环节。不计其数的NL2SQL（自然语言转SQL）、NL2XX的研究文献就可见一斑。

数据执行环节通常包括查询生成、查询语句纠错和查询语句执行等部分。目前主流的技术方案有：

NL2SQL
查询效率高，准确度较高，但在处理复杂嵌套子查询时存在局限
NL2Python
灵活性强，但实现复杂
NL2DSL
特定领域语言转换，针对性强
NL2API
灵活性极高，可容纳复杂计算逻辑，但自然语言到API参数的映射过程复杂
NL2MDX
微软查询风格，适合多维数据分析

令人意外的发现：通用的NL2SQL准确度已经相当高，但面对企业内部的专业术语和复杂指标计算时，效果往往大打折扣。这也是为什么我们需要将语义理解与数据执行深度结合的原因。

4. 数据治理：老生常谈却至关重要

我认为，做数据治理的企业天然具有开发智能问数产品的优势。因为这些企业不仅懂数据，更懂业务，这一点至关重要。

在数据治理环节，我经常问自己这些问题：

数据安全如何保证？
用户权限如何管理？
基于智能问数的数据标准如何建立？
数据从输入到输出，整个环节如何监控？

数据治理不是一次性工作，而是持续的过程。它直接决定了智能问数产品的质量上限。

5. 知识沉淀：产品的核心竞争力

随着DeepSeek的推出，现在越来越多的声音提倡建立个人知识库。其实产品也是一样，专属的知识库是一种财富，是产品的沉淀。做了这么多产品，我们留下了什么，如何持续的优化升级保持动力。我想知识沉淀部分就是答案。

万物可入知识库，只要它有价值：术语说明、专有指标、算法专家经验都可以作为知识沉淀下来，并加以复用。而知识运营更是一个庞大的话题，庞大到企业是否可以在AGI时代不被淘汰。

智能问数产品的现状与未来

现在的问数产品还是饱受诟病的：不到75%的准确率、超过10秒的响应时间会使用户厌烦，从而放弃使用。当我们做产品的时候，我们只是做出来就可以吗？其实每个产品都是一个鲜活的生命，而作为创造者则要为之计深远。我也搜了很多的破局之道，其中一个高人的回答我颇为赞同，那就是有效的数据治理、统一的指标口径以及企业独有的知识库。