微信扫码
与创始人交个朋友
我要投稿
距离上个版本已经过去两个月,但不少用户已经通过master分支提前体验了新特性,也陆续在提交反馈与PR,受益匪浅,在这里向社区表示感谢。0.9.8版本的关键词是实用性和灵活性:
灵活性方面,用户将可以从更多维度上定制适配自身场景的Chat BI环境,包括大模型连接与提示词、多轮对话、用户确认、SQL修正、数据解读等。
一言以蔽之,SuperSonic可玩性大大增强,朝着通用化Chat BI框架演进。
新增【大模型管理】和【大模型配置】模块
过去大模型连接是通过助理管理(局部)或系统设置(全局)来配置,但仍然不够灵活,主要体现在三点:1) 相同连接如何被指定助理复用;2)不同场景如何选择不同大模型;3)不同场景的大模型提示词如何定制化。
新版本对大模型连接和配置做了重构,体现在交互上是新增独立的大模型管理模块,与数据库管理形成对照;在助理管理下新增大模型配置模块,可以为不同场景下拉选择已有的大模型连接,并且支持修改提示词。
新增【Dify连接器】
有很多社区用户已经采用Dify来开发AI应用工作流,希望能够直接通过Dify来对接大模型,新版本在接口协议中新增了DIFY类型。感谢来自CVTE的dawsongzhao0523贡献此特性!
增强【维度管理】,支持管理导入的维度值
维度值是企业私有知识库的体现,SuperSonic一直支持自动从数据库中导入维度值来建立词典,但并没有提供界面来管理已导入的维度值,这也带来了一些用户误解和问询。新版本升级了维度管理界面,使维度值的导入、搜索、编辑等管理操作更便捷。
增强【记忆管理】,支持手动录入
0.9.4版本引入的记忆抽象,可将历史成功QA转换成未来few-shot提示词,是增强大模型生成的主要手段之一,理论上可以让助理实现持续打怪升级的效果。然而,记忆如果只来源于用户问答,在用户冷启动阶段将处于无记忆可用的局面。因此,SuperSonic过往版本提供了一种方式,可在助理上配置示例问题,将由系统在后台自动触发问答,进而填充记忆。
这是一种间接手段,而有部分专业用户,希望能直接注入记忆。新版本在记忆管理中支持手动新增录入。需要注意的是,Schema映射和语义S2SQL录入有一定特殊格式,最好参考系统s2-exemplar.json中自带的案例。
增强【语义S2SQL查询】,支持with语句
SuperSonic主要的理念是融合Headless BI和Chat BI,主要体现之一是Query流程——用户NL-> 语义S2SQL -> 数据库SQL。通过语义层做查询中转,一是能充分利用数据语义信息,增强大模型对用户问题的语义理解;二是能尽量压缩problem space,向大模型屏蔽多表join、计算公式、SQL方言等复杂语句。
然而,要回答更多元化的用户提问,支持带with语句的S2SQL势在必行。新版本针对性在语义层做了迭代优化,使得应用场景被大大拓宽。
增强【语义建模】,支持外键关联
上文有提到,语义层主要作用之一是向大模型屏蔽掉复杂语句,比如多表join。这就要求在语义建模过程中,尽可能将模型间的关联关系定义清楚。过往SuperSonic只能支持主键之间的关联,带来没必要的限制。新版本中,将可以定义外键,并且支持外键与主键的关联。
增强【问答对话】交互,支持用户确认
如何对用户提问做精准语义理解,选择匹配的数据集和指标维度,是问答有效性的关键。在某些场景下,问询用语和数据语义都存在模糊不清,系统很难精准命中用户的意图。
SuperSoinc过往的处理是,采用启发式规则去对多种候选解析结果做打分,默认选择得分最高的。然而,这种启发式规则几乎不可能适用所有场景,存在不少bad case。新版本中,我们对Query流程做了升级,可以支持流程暂停,候选意图解析确认后,再返回流程。
当前,用户确认特性可在助理管理中开关,如果关闭则采用启发式规则选择,如果开启则交由用户选择。
增强【问答对话】交互,支持再试一次
我们都知道大模型是概率输出,存在不确定性,两次调用可能输出完全不同的结果(即便设置temperature为0)。SuperSonic过往通过self-consistency特性,系统触发多次并行调用,再投票选择多数相同的结果。新版本,进一步在问答中增加再试一次按钮,可让用户选择是否重跑。经过我们的初步试验,某些bad case经过重跑,可以扭转正确性。
支持基于LLM的SQL修正(Experimental)
SuperSonic从初版开始就实现了基于规则Corrector,但随着社区实践的场景愈发多样,规则越来越暴露出局限性,某些场景下甚至会“帮倒忙”。新版本中,我们引入基于大模型Corrector,用户可以选择开启和自定义提示词。因为还没有经过广泛实践验证,暂时默认关闭,特性也标记为Experimental,欢迎社区用户试用和反馈,帮助持续优化升级。
支持基于LLM的数据解读(Experimental)
SuperSonic一直默认采用可视化图表方式呈现结果,也有不少用户在提对是否支持对数据的进一步总结分析。坦率地说,我们也调研过一些具备数据洞察分析特性的产品,感觉暂时还比较鸡肋,给出的结论不痛不痒食之无味。这完全可以理解,毕竟洞察分析具有强烈的domain属性,很难有通用化模板,一定需要因地制宜。
虽说食之无味,但弃之也可惜。本着先上线再优化的原则,新版本我们也推出了一个Experimental版本,可在助理管理中打开数据解读。未来,可能会设计某种方式让domain知识和经验融入进来,带来更实用的洞察分析,欢迎社区反馈和建议。
- End -
53AI,企业落地应用大模型首选服务商
产品:大模型应用平台+智能体定制开发+落地咨询服务
承诺:先做场景POC验证,看到效果再签署服务协议。零风险落地应用大模型,已交付160+中大型企业
2024-06-20
2024-07-03
2024-06-06
2024-06-14
2024-06-14
2024-06-21
2024-06-16
2024-07-21
2024-06-07
2024-07-01