AI知识库

53AI知识库

学习大模型的前沿技术与行业应用场景


使用大模型只需要像对接数据库一样,你喜欢了么
发布日期:2024-04-13 12:10:42 浏览次数: 1807


这里有个误区,大家看到  SQL + 大模型首先想到就是 nlp2sql,这是两件事,nlp2sql 是调用大模型将用户的问题转化为 SQL 查询, 而今天我们提到的 SQL + 大模型 指的是通过 SQL 调用大模型完成实际的业务数据处理,或者利用 SQL 完成大模型的训练,微调。用户使用大模型就和使用数据一样。

为什么把大模型数据库化是最好的选择

SQL 相比 Python 有其巨大的价值,首先是 SQL语法非常简单,对开发环境要求低,其次是 SQL 已经积累了大量的数据生态,更擅长数据处理,比如 Byzer-SQL 几乎可以瞬间让你可以访问你企业里几乎所有的数据,而如果你用 Python 则很难方便的额做到这一点。

拿到数据后,我可以通过一条SQL语句就让大模型对数据做处理,处理完后再用一条语句就可以写回到业务数据库。

最重要的是,只要是做 IT 的同学,应该都熟悉下面这个经典 IT架构,几乎全球所有有IT的公司也应该都有这个架构:

如果我想把大模型能力嵌入到这个已有的系统该怎么办呢?完美的架构应该是这样的:

对于普通业务而言,实际上就是新添加了一个数据库。而不是像当年引入大数据/AI体系一样,各自都是一趴,忍受高昂的IT费用:


硬件很贵?没关系,我们可以像Oracle一样,提供数据库一体机(多台可自由组合集群):

前面讲了这么多,来点干货

其实我们去年早就写过一篇文章:

用加持了大模型的 Byzer-Notebook 做数据分析是什么体验

这篇文章介绍了如何在 SQL Notebook 里完成一站式的数据处理,从数据分析到在 Notebook里直接调用大模型生成SQL 或者 利用 SQL 调用大模型对加载到的数据进行分析,还是很酷的。

今天我们简单看看我们这个Byzer数据库都提供了哪些能力。首先一个是一个管理控制台,有点类似 SQL Admin界面。对 Byzer Notebook 也是一个 web 产品,打开网址可用。

进入该界面,你就可以选择合适的模型进行连接:

我这里连接了一个已经启动了 kimi_chat 实例,现在我们就可以在 控制台里直接和他进行多轮交互:

测试模型,验证一些效果。

觉得这个模型不错,现在就可以开始用他对我们已有的数据使用SQL做处理了:

利用 Byzer-SQL 的load 数据为表的能力,你几乎可以对接企业里所有的数据源,还包括各种云对象存储。接着就可以select 语句,直接把模型当做一个函数在里面使用。

如果是应用产品想访问数据库,我们提供了JDBC 和 Rest 两种形态,下面是 Rest 调用方式:

这里我们提供Byzer-SQL 数据库地址,用户就可以通过 Rest 接口发送 SQL语句,和使用传统数据库的方式几乎一致,从而获得大模型的结果。

当然了,Byzer-SQL 数据库也提供了预训练和微调大模型能力,然后再部署成函数的能力。感兴趣的可以看看我们文档:https://docs.byzer.org/#/byzer-lang/zh-cn/

总结

Byzer Data+AI数据库,提供了 Byzer-SQL,实现SQL对大模型的调用,此外还提供完善的控制台使用界面,可以很方便的让用在数据里完成大模型的预训练,微调和部署使用。最后,用户还可以通过Rest 接口访问 Byzer 数据库,方便调用其能力。

把大模型以数据库形态,支持数据存储,数据获取,以及将业务数据和大模型融合,才是最后能让大模型普及到企业业务体系里最重要的一环。


53AI,企业落地应用大模型首选服务商

产品:大模型应用平台+智能体定制开发+落地咨询服务

承诺:先做场景POC验证,看到效果再签署服务协议。零风险落地应用大模型,已交付160+中大型企业

联系我们

售前咨询
186 6662 7370
预约演示
185 8882 0121

微信扫码

与创始人交个朋友

回到顶部

 
扫码咨询