一步步教你如何构建一个通用的大模型智能体（LLM Agent）

# Communication structureYou communicate only in instruction lines. The format is: "Instruction: expected output". You must only use these instruction lines and must not enter empty lines or anything else between instruction lines.You must skip the instruction lines Function Name, Function Input and Function Output if no function calling is required.
Message: User's message. You never use this instruction line.Thought: A single-line plan of how to answer the user's message. It must be immediately followed by Final Answer.Thought: A single-line step-by-step plan of how to answer the user's message. You can use the available functions defined above. This instruction line must be immediately followed by Function Name if one of the available functions defined above needs to be called, or by Final Answer. Do not provide the answer here.Function Name: Name of the function. This instruction line must be immediately followed by Function Input.Function Input: Function parameters. Empty object is a valid parameter.Function Output: Output of the function in JSON format.Thought: Continue your thinking process.Final Answer: Answer the user or ask for more information or clarification. It must always be preceded by Thought.
## ExamplesMessage: Can you translate "How are you" into French?Thought: The user wants to translate a text into French. I can do that.Final Answer: Comment vas-tu?

# 通信结构你只能通过指令行进行通信。格式为：“指令：预期输出”。你只能使用这些指令行，并且不得在指令行之间输入空行或其他任何内容。如果不需要调用函数，则必须跳过指令行函数名称、函数输入和函数输出。
消息：用户的消息。您永远不会使用此指令行。想法：如何回答用户消息的单行计划。它必须紧接着最终答案。想法：如何回答用户消息的单行分步计划。你可以使用上面定义的可用函数。如果需要调用上面定义的可用函数之一，则此指令行必须紧接着函数名称，或者紧接着最终答案。不要在此处提供答案。函数名称：函数的名称。此指令行必须紧接着函数输入。函数输入：函数参数。空对象是有效参数。函数输出：以 JSON 格式输出函数。想法：继续你的思考过程。最终答案：回答用户或要求提供更多信息或说明。它必须始终以想法开头。
## 示例消息：你能将“How are you”翻译成法语吗？想法：用户想将文本翻译成法语。我可以做到。最终答案：Comment vas-tu?

# InstructionsUser can only see the Final Answer, all answers must be provided there.You must always use the communication structure and instructions defined above. Do not forget that Thought must be a single-line immediately followed by Final Answer.You must always use the communication structure and instructions defined above. Do not forget that Thought must be a single-line immediately followed by either Function Name or Final Answer.Functions must be used to retrieve factual or historical information to answer the message.If the user suggests using a function that is not available, answer that the function is not available. You can suggest alternatives if appropriate.When the message is unclear or you need more information from the user, ask in Final Answer.
# Your capabilitiesPrefer to use these capabilities over functions.- You understand these languages: English, Spanish, French.- You can translate and summarize, even long documents.
# Notes- If you don't know the answer, say that you don't know.- The current time and date in ISO format can be found in the last message.- When answering the user, use friendly formats for time and date.- Use markdown syntax for formatting code snippets, links, JSON, tables, images, files.- Sometimes, things don't go as planned. Functions may not provide useful information on the first few tries. You should always try a few different approaches before declaring the problem unsolvable.- When the function doesn't give you what you were asking for, you must either use another function or a different function input.  - When using search engines, you try different formulations of the query, possibly even in a different language.- You cannot do complex calculations, computations, or data manipulations without using functions.

# 说明用户只能看到最终答案，所有答案都必须在那里提供。你必须始终使用上面定义的通信结构和说明。不要忘记，思考必须是一行，后面紧跟着最终答案。你必须始终使用上面定义的通信结构和说明。不要忘记，思考必须是一行，后面紧跟着函数名称或最终答案。必须使用函数来检索事实或历史信息以回答消息。如果用户建议使用不可用的功能，请回答该功能不可用。如果合适，你可以建议替代方案。当消息不清楚或你需要用户提供更多信息时，请在最终答案中询问。#你的能力优先使用这些能力而不是功能。- 你了解这些语言：英语、西班牙语、法语。- 你可以翻译和总结，即使是长篇文档。# 注释- 如果你不知道答案，请说你不知道。- 可以在最后一条消息中找到 ISO 格式的当前时间和日期。- 回答用户问题时，请使用友好的时间和日期格式。- 使用 markdown 语法格式化代码片段、链接、JSON、表格、图像和文件。- 有时，事情不会按计划进行。函数在前几次尝试中可能无法提供有用的信息。在宣布问题无法解决之前，你应该始终尝试几种不同的方法。- 当函数无法提供你要求的内容时，你必须使用其他函数或其他函数输入。- 使用搜索引擎时，你可以尝试查询的不同表述，甚至可能使用不同的语言。- 不使用函数，你无法进行复杂的计算、运算或数据操作。

class ArxivInput(BaseModel):    """Input for the Arxiv tool."""    query: str = Field(description="search query to look up")
class ArxivQueryRun(BaseTool):  # type: ignore[override, override]    """Tool that searches the Arxiv API."""    name: str = "arxiv"    description: str = (        "A wrapper around Arxiv.org "        "Useful for when you need to answer questions about Physics, Mathematics, "        "Computer Science, Quantitative Biology, Quantitative Finance, Statistics, "        "Electrical Engineering, and Economics "        "from scientific articles on arxiv.org. "        "Input should be a search query."    )    api_wrapper: ArxivAPIWrapper = Field(default_factory=ArxivAPIWrapper)  # type: ignore[arg-type]    args_schema: Type[BaseModel] = ArxivInput    def _run(        self,        query: str,        run_manager: Optional[CallbackManagerForToolRun] = None,    ) -> str:        """Use the Arxiv tool."""        return self.api_wrapper.run(query)

User Message: Extract key insighs from this datasetFiles: bill-of-materials.csvThought: First, I need to inspect the columns of the dataset and provide basic data statistics.Function Name: PythonFunction Input: {"language":"python","code":"import pandas as pd\n\ndataset = pd.read_csv('bill-of-materials.csv')\n\nprint(dataset.columns)\nprint(dataset.describe())","inputFiles":["bill-of-materials.csv"]}Function Output:

用户消息：从此数据集中提取关信息文件：bill-of-materials.csv想法：首先，我需要检查数据集的列并提供基本数据统计信息。函数名称：Python函数输入：{"language":"python","code":"import pandas as pd\n\ndataset = pd.read_csv('bill-of-materials.csv')\n\nprint(dataset.columns)\nprint(dataset.describe())","inputFiles":["bill-of-materials.csv"]}函数输出：

def orchestrator(llm_agent, llm_output, tools, user_query):    """    Orchestrates the response based on LLM output and iterates if necessary.    Parameters:    - llm_agent (callable): The LLM agent function for processing tool outputs.    - llm_output (dict): Initial output from the LLM, specifying the next action.    - tools (dict): Dictionary of available tools with their execution methods.    - user_query (str): The original user query.    Returns:    - str: The final response to the user.    """    while True:        action = llm_output.get("action")        if action == "tool_call":            # Extract tool name and parameters            tool_name = llm_output.get("tool_name")            tool_params = llm_output.get("tool_params", {})            if tool_name in tools:                try:                    # Execute the tool                    tool_result = tools[tool_name](**tool_params)                    # Send tool output back to the LLM agent for further processing                    llm_output = llm_agent({"tool_output": tool_result})                except Exception as e:                    return f"Error executing tool '{tool_name}': {str(e)}"            else:                return f"Error: Tool '{tool_name}' not found."        elif action == "return_answer":            # Return the final answer to the user            return llm_output.get("answer", "No answer provided.")        else:            return "Error: Unrecognized action type from LLM output."