1. SQL-Generation：LLM根据用户输入的自然语言，以及数据库的相关Schema信息，生成查询SQL；
2. SQL-Execution：利用数据库执行工具，执行上一步生成的SQL，返回得到的结果数据集；
3. NL-Generation：LLM根据用户的问题，以及第二步得到的结果数据集，生成自然语言回答。

• LLM基于数据预训练的，一般基础的LLM不会专门针对SQL的数据，所以对SQL的理解和生成质量不够；
• 缺乏相关领域知识，以及数据库的结构信息，哪怕是人类数据库专家，没有这些信息也写不出合适的SQL；

1. 增加数据库Schema的信息和业务领域知识，比如说表名、字段名、类型、相关的备注等DDL信息，在生成SQL时作为SystemPrompt传给LLM。这个在上图的2、3这两步可以看到。给到LLM更多的数据库信息，更有利于生成SQL的准确性。但这里有两个地方值得说道：
1. 补充Schema信息：一般数据库表在创建的时候，会有表和字段相关的备注信息。但都是很简洁的描述信息，这个对于人来说有时都过于简短，对于LLM就不是很友好。解决思路就是对数据库表和字段增加更详细描述信息，调用LLM时作为Prompt传入。这个可以是一个额外的信息维护，避免对数据库结构的侵入。
2. 检索相关信息：另一个问题数据库可能会很大，表太多。LLM的Token窗口大小限制，没办法全部做为Prompt。解决思路是根据问题检索最可能相关的表，只把跟问题相关的表信息作为Prompt。
3. 增加业务领域背景知识，基于RAG的工作流，也是先查询出相关的信息，特别是一些专业名词，KPI指标等，再构建Prompt。
2. 增加优秀的问题和SQL对作为示例，利用Few-Shot Prompt和LLM的泛化能力，在Prompt中增加一些和用户问题相近的示例，这可以提高LLM生成SQL的准确率。示例的来源可以是专家整理好，再录入。也可以通过系统运行过程中，用户对生成SQL的反馈，反馈正面的示例经过专家确认就可以进入示例库。
3. 微调Finetuning，可以针对自己的数据模型进行LLM的微调。利用收集的优秀的问题和SQL对示例作为样本，一般的商业化LLM服务都有微调的接口。
4. 使用专门SQL的LLM，SQLCoder这是一款基于StarCoder微调的、针对SQL优化的大语言模型。Code Llama是一个开源的大模型，主要用于Text2SQL任务。本地跑Ollama还可以选DuckDB-NSQL的7B模型。

人设：你是一位数据库专家。目标：帮助开发者和数据分析师构建高质量、高效的SQL查询。
步骤：1. 定义查询需求：    - 明确你需要从数据库中检索哪些数据。    - 确定数据之间的关系和需要应用的过滤条件。2. 使用SQL模板：    - 根据查询类型选择合适的模板，并根据需求进行调整。
示例：
问题：列出所有员工的姓名和职位。SQL：`SELECT Name, Position FROM Employees;`
问题：计算每个产品的销售总额SQL：`SELECT ProductName, SUM(Quantity * Price) AS TotalSales FROM Sales GROUP BY ProductName;`

dataherald_api_key = os.environ('DATAHERALD_API_KEY')    api_wrapper = DataheraldAPIWrapper(dataherald_api_key= dataherald_api_key,db_connection_id="xxx")  

# the text to sql engine  text_to_sql_tool = DataheraldTextToSQL(api_wrapper=api_wrapper)   def clean_string(s):  # Remove all spaces and newlines, then convert to lowercase  return s.replace(" ", "").replace("\n", "").lower()  # execute sql query tool  def execute_sql_query(sql_query: str) -> str:  generated_queries = api_wrapper.dataherald_client.sql_generations.list(page=0,  page_size=20,  order='created_at',  ascend=False)  query_id = ""  for query in generated_queries:  if clean_string(query.sql) == clean_string(sql_query):  query_id = query.id  break  if not query_id:  raise Exception("Query has not found")  query_results = api_wrapper.dataherald_client.sql_generations.execute(id=query_id)  return str(query_results)    execute_query_tool = StructuredTool.from_function(  func=execute_sql_query,  name="Execute Query",  description="用于在数据库上执行SQL查询，输入是由text-to-sql工具生成的SQL查询",  )    # A function to plot a list  def plot_and_save_array(dict_of_values):  dict_of_values = json.loads(dict_of_values.strip().replace("'", '"'))  items = list(dict_of_values.keys())  values = list(dict_of_values.values())  plt.figure(figsize=(5, 3))  plt.plot(items, values, marker='o')  plt.title("Array Plot")  plt.xlabel("Items")  plt.ylabel("Values")  plt.xticks(rotation=45)  plt.grid(True)  identifier = uuid.uuid4().hex[:6] + ".png"  plt.savefig(identifier)  plt.show()  return "success"    plotting_tool = StructuredTool.from_function(  func=plot_and_save_array,  name="Plotting Results",  description="一个工具，它接收一个有效的json对象，其中键是x轴值，对于每个键，我们都应该有一个值",  )

llm = ChatOpenAI(api_key=openai_api_key, model="gpt-4-turbo-preview", temperature=0)  tools = [text_to_sql_tool, execute_query_tool, plotting_tool]  agent = create_react_agent(llm, tools, prompt)  agent_executor = AgentExecutor(agent=agent, tools=tools, verbose=True)

助理的设计目的是能够协助对数据库值进行问题和分析。助理计划：1） 使用“text-to-sql”工具为用户问题生成sql查询2） 使用“Execute Query”工具在数据库上执行生成的SQL查询3） 使用“Plotting Results”工具绘制“Execute Query”工具返回的结果工具：------助理可以访问以下工具：｛tools｝要使用工具，请使用以下格式：'''思考：我需要使用工具吗？对操作：要采取的操作应为[｛tool_names｝]之一动作输入：动作的输入观察：行动的结果'''当你有回应要对人类说，或者如果你不需要使用工具，你必须使用以下格式：'''思考：我需要使用工具吗？不最终答案：[此处为您的回复]'''开始新输入：｛input｝｛agent_scratchpad｝

agent_executor.invoke (    { "input" : "2022 年夏季和秋季洛杉矶每个月的租金价格是多少？绘制结果" }  )