随着ChatGPT推出插件和函数调用功能，构建以LLM（大语言模型）为核心控制器的AI Agent愈发成为一个拥有无限可能的概念。LLM的应用潜力不局限于生成高质量的文章、故事、散文和程序，它还可以被构建成一个强大的通用问题求解器。AI Agent无疑是当下大模型最激动人心的发展主线。

1

概念

在计算机、人工智能专业技术领域，一般将Agent译为“智能体”，其定义是在一定的环境中体现出自治性、反应性、社会性、预动性、思辨性（慎思性）、认知性等一种或多种智能特征的软件或硬件实体。AI Agent则是指由LLM驱动的智能体。目前它还没有一个被广泛接受的定义，但我们可以把它描述成这样一个系统：利用LLM推理问题，能自行创建解决问题的计划，会借助一系列工具来执行计划。

简而言之，AI Agent是一个具有复杂推理能力、记忆力以及执行任务能力的系统，如下图所示：

• 智能体核心

中央协调模块，管理核心逻辑和智能体行为特点，能进行关键决策。我们需要在这里定义以下内容：

• 智能体的总体目标
  智能体要达成的总体目标和目的。
• 执行工具
  智能体可以使用的所有工具的简短列表（或“用户手册”）。
• 如何使用计划模块的解释说明
  详细说明不同计划模块的作用，以及在什么情况下使用。
• 相关记忆
  这是一个动态部分，填充与用户过往对话中最相关的内容。“相关性”是根据用户提出的问题判断的。
• 智能体个性（可选）
  如果要求LLM偏向于使用某些类型的工具，或者在最终响应里展现某些特点，则可以将所需个性描述清楚。

• 记忆模块

记忆模块扮演非常重要的作用，记录了智能体内部日志以及和用户交互历史。有2种类型的记忆模块：

• 短期记忆
  智能体尝试回答用户提出的单个问题而经历的思考和行动。通常就是提示工程中的上下文，超过上下文的限制后，LLM就会忘记之前输入的信息。
• 长期记忆
  用户和智能体交互相关的行为和想法，包含跨度数周或数月的对话记录。通常是一个外部的向量库，可以几乎无限地保留和快速取回历史信息。

• 工具集

• 计划模块

复杂的问题，例如分析一组财务报表以回答上层业务问题，通常需要循序渐进的方法。对于由LLM驱动的智能体，计划能力本质是Prompt Engineering（提示工程）很多高级玩法的高级实践。可以通过使用两种技术的组合来应对复杂问题：

• 任务和问题分解

复合问题或推断信息需要某种形式的分解。例如这个问题“2024财年Q1与Q2之间，利润增长了多少？”

该问题可以分解为多个子问题：

• “Q1的利润是多少？”

• “Q2的利润是多少？”

• “上述两项结果之间的差是多少？”

专门的AI Agent必须能主导这种分解，例如采用下面的提示模版：

当填入具体问题输入给LLM后，LLM会做出问题拆解结果的响应：

• 反思或批判

ReAct（推理和动作协同）、Reflexion（反思）、Chain of Thought（思维链）和Graph of Thought（思维图）等技术已成为基于批判或基于证据的提示框架。它们已被广泛用于提高LLM的推理能力和响应能力。这些技术还可用于优化智能体生成的执行计划。

例如LangChain智能体框架支持的ReAct，即Reason+Act模式，把复杂问题拆开，有些缺少的内容通过工具从外部获取，然后补充到问题回答里。

ReAct的提示模版一般包含这些内容的多次重复：

• 第1次思考：我需要找到Apple Remote原生设计用来交互的程序。第1次行动：去搜索引擎搜索【Apple Remote】。从而取得关于Apple Remote的介绍。

• 第2次思考：在结果中找到Apple Remote原生设计用来控制Front Row程序，我需要查找Front Row的信息。第2次行动：搜索【Front Row】。搜索引擎返回没找到相关信息。

• 第3次思考：我应该加上“软件”重新搜索。第3次行动：搜索【Front Row（软件）】。取得Front Row软件的介绍。

• 第4次思考：在结果中发现关键信息：Front Row软件可以被Apple Remote或键盘多功能按键控制。第4次行动：完成，返回用户答案【键盘多功能按键】。

• 有限的上下文长度

• 长期计划和任务拆解能力不足

• 自然语言接口不够可靠