我要投稿

一文彻底搞懂大模型实战 - 文本到SQL（Text2SQL）

发布日期：2024-10-14 18:04:52 浏览次数： 3600 来源：架构师带你玩转AI

Text2SQL

Text2SQL技术，即将自然语言查询转换为结构化查询语言（SQL）的技术，正在迅速成为数据库查询的一个关键工具。它使得非技术用户能够通过自然语言与数据库进行交互，极大地提高了数据库操作的便捷性和效率。

接下来分两部分：主流数据集、主流实战方法（SQLCoder + DB-GPT-Hub），一起来深入了解大模型实战：Text2SQL。

Text2SQL

一、主流数据集

什么是Text2SQL数据集？Text2SQL数据集是指一类专门用于训练Text2SQL（文本到SQL）模型的数据集合。

Text2SQL数据集通常包含大量的自然语言查询（如问题或指令）和对应的SQL查询语句。这些对构成了模型学习的基础，使模型能够学会将自然语言查询转换为SQL查询。

Text2SQL数据集有哪些？Spider、WikiSQL和CHASE等主流Text2SQL数据集提供自然语言查询与SQL查询对应数据，训练和评估模型将自然语言转换为SQL查询的能力。

Spider：这是一个跨域的复杂Text2SQL数据集，包含了大量的自然语言问句和对应的SQL查询语句。它旨在测试模型在复杂的、未见过的SQL查询上的性能以及其在新领域的泛化能力。
WikiSQL：这是一个大型的语义解析数据集，由大量的自然语句表述和对应的SQL标注构成。它主要用于训练模型学习如何将简单的自然语言查询转换为SQL查询。
CHASE：一个跨领域多轮交互Text2SQL中文数据集，包含多个多轮问题组成的列表，以及大量的<query, SQL>二元组，涉及不同领域的数据库。

二、主流实战方法

基于大语言模型的Text2SQL主流实战方法是什么？主要包括两种：（1）基于Text2SQL模型结合业务进行微调；（2）基于开箱即用的Text2SQL Agent结合业务整合到应用。

一、基于SQLCoder模型，结合业务进行微调

第一步：微调前准备（下载模型和数据集）

下载模型：llama3-sqlcoder-8b是一种适用于 PostgreSQL、 Snowflake（基于云的数据仓库平台）的文本到 SQL 生成的强大的语言模型，可与最强大的通用前沿模型相媲美。

下载数据集：WikiSQL是一个基于维基百科的语义解析数据集，主要用于自然语言查询到SQL查询的转换任务。它包含了超过8万个（问题，SQL）对，即80,645条自然语言问句及相应的SQL语句，以及24,241张表。

第二步：模型微调（收集业务数据、选择微调策略、训练模型、评估模型）

微调数据集：根据业务需求和数据库架构，收集相关的自然语言查询和对应的SQL语句作为训练数据。
选择微调策略：根据业务需求和数据集的特点，选择合适的微调策略，如基于特定数据库模式的微调、针对复杂查询的微调等。
训练模型：使用微调数据集对SQLCoder模型进行训练，调整模型的参数以优化其在特定业务场景下的性能。
评估模型：在训练过程中，定期评估模型的性能，如准确率、召回率等，以确保微调的有效性。

第三步：模型部署与推理

Enter special instructions（输入特殊说明）：明确特殊说明的内容，这可能涉及对某项任务的具体要求、注意事项、优先级调整或其他任何有助于任务执行或结果理解的额外信息。例如：异常处理
Enter the database schema（输入数据库模式）：数据库模式（也称为数据库结构或数据库架构）定义了数据库中表、列、关系和其他数据库对象的组织方式。

二、基于开箱即用的DB-GPT-Hub，结合业务整合到应用

DB-GPT是一个开源的AI原生数据应用开发框架(AI Native Data App Development framework with AWEL(Agentic Workflow Expression Language) and Agents)。

目的是构建大模型领域的基础设施，通过开发多模型管理(SMMF)、Text2SQL效果优化、RAG框架以及优化、Multi-Agents框架协作、AWEL(智能体工作流编排)等多种技术能力，让围绕数据库构建大模型应用更简单，更方便。

DB-GPT-Hub是一个利用LLMs实现Text-to-SQL解析的实验项目，主要包含数据集收集、数据预处理、模型选择与构建和微调权重等步骤，通过这一系列的处理可以在提高Text-to-SQL能力的同时降低模型训练成本，让更多的开发者参与到Text-to-SQL的准确度提升工作当中，最终实现基于数据库的自动问答能力，让用户可以通过自然语言描述完成复杂数据库的查询操作等工作。

目前DB-GPT-Hub已经基于多个大模型打通从数据处理、模型SFT训练、预测输出和评估的整个流程，代码在项目中均可以直接复用。-- 开箱即用，架构师带你玩转AI

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费场景POC验证，效果验证后签署服务协议。零风险落地应用大模型，已交付160+中大型企业

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

重磅！Ilya创办人工智能公司SSI：直接迈向安全超级智能

2024-06-20

万字长文：你必须要读的瑞幸咖啡AI应用战略

2024-06-14

一文彻底搞懂大模型实战 - 文本到SQL（Text2SQL）

2024-10-14

【万字长文】AI智能体驱动未来商业，深度剖析11种AI Agent商业模式

2024-06-16

AIOps在小红书的探索与实践——故障定位与诊断

2024-10-09

行业探索｜AI在法律行业中的创新应用

2024-07-03

如何利用生成式AI优化制造企业的生产流程？

2024-06-14

WrenAI-Text-to-SQL：用智能技术解锁数据潜能，助力业务增长！

2024-05-31

腾讯音乐开源的 Chat BI 平台

2024-07-24

API调用大模型如此方便，为何企业还要私有化部署大模型？

2024-06-06

大家都在问

深度解析智能技术架构：AI是如何从数据到应用一步步实现的？

2025-01-22

我们需要什么样的AI搜索？

2025-01-13

腾讯OlaChat：LLM如何重塑智能数据分析新生态？

2025-01-07

数势科技智能分析AI Agent 何以在市场中脱颖而出？

2025-01-02

阿里内部观点：智能化研发一年复盘，我们离真正的 AI 开发还有多远？

2024-12-25

准确率高达99%，ChatBI如何做到？

2024-12-25

“百度搜索们”会被“Kimi们”取代吗？

2024-12-13

如何用用 Parent-Child 分割提升问答系统的准确性？

2024-11-19

开箱即用的企业大模型应用平台

工作+AI

业务+AI

AIx业务

大模型咨询

大模型定制

一、基于SQLCoder模型，结合业务进行微调

第二步：模型微调（收集业务数据、选择微调策略、训练模型、评估模型）

第三步：模型部署与推理

二、基于开箱即用的DB-GPT-Hub，结合业务整合到应用

相关资讯

160+中大型企业正在使用53AI

把握AI发展的机遇，共同探索、共同进步

如何打造基于GenAI的员工服务机器人

热点资讯

重磅！Ilya创办人工智能公司SSI：直接迈向安全超级智能

万字长文：你必须要读的瑞幸咖啡AI应用战略

一文彻底搞懂大模型实战 - 文本到SQL（Text2SQL）

【万字长文】AI智能体驱动未来商业，深度剖析11种AI Agent商业模式

AIOps在小红书的探索与实践——故障定位与诊断

行业探索｜AI在法律行业中的创新应用

如何利用生成式AI优化制造企业的生产流程？

WrenAI-Text-to-SQL：用智能技术解锁数据潜能，助力业务增长！

腾讯音乐开源的 Chat BI 平台

API调用大模型如此方便，为何企业还要私有化部署大模型？

大家都在问

深度解析智能技术架构：AI是如何从数据到应用一步步实现的？

我们需要什么样的AI搜索？

腾讯OlaChat：LLM如何重塑智能数据分析新生态？

数势科技智能分析AI Agent 何以在市场中脱颖而出？

阿里内部观点：智能化研发一年复盘，我们离真正的 AI 开发还有多远？

准确率高达99%，ChatBI如何做到？

“百度搜索们”会被“Kimi们”取代吗？

如何用用 Parent-Child 分割提升问答系统的准确性？

热门标签