Agent是一个架构或者是系统

它即被定义为一个能够较长时间自主独立运行, 通过调用各种工具来完成复杂任务的自主系统, 也被定义为通过遵循预定义工作流的预设系统

所以Anthropic对Agent系统进行了两类划分:

定义: 提示链的方法是将任务分解为多个子任务, 每一个节点输入的信息都是前一个节点的输出内容

典型场景: 复杂文本生成, 首先生成主题的大纲内容, 然后检查大纲是否符合标准, 接着根据大纲内容逐段撰写, 每一段都基于前面的内容, 以确保主题连贯的一致性

2. Routing (路由编排)

定义: 并行编排的方式是将LLM同时处理同一项任务, 并在聚合器中整合输出结果, 从而提高任务处理的准确性和全面性

如图所示, 开始节点为用户输入的信息, 将用户输入的信息同时输入至三个大语言模型节点进行并行处理, 并将每个节点的输出结果进行聚合汇总, 最终进行整体输出

典型场景: 内容合规审查, 多个大语言模型分别检测内容中是否存在违规, 敏感或不良信息, 再由聚合器进行综合判断, 以提高审核的可靠性

并行编排的优势:

1. 将复杂任务拆分为子任务后, 不仅提高输出质量, 同时通过并行处理的方式, 能够提升输出的响应速度
2. 支持同一个任务多次获得不同的输出结果, 在聚合器中选择重复输出最高的结果为最终输出的内容, 能够有效提升输出信息的可信度

Routing(路由编排)主要是一种分类机制, 对输入的任务请求进行分类, 然后再将其导向专门的任务处理流程, 核心是做子流程的分离, 使不同类型的任务能够被高效地分配到最适合处理的路径上, 提高系统的整体效率 (适用于明确不同任务类型的场景)

Orchestrator-workers(协调器编排)核心是由模型对复杂任务进行动态拆解与分配, 适用于任务复杂, 且任务的执行顺序不可预测的使用场景

原则一, 优先用最简单的方式搭建, 减少Agent架构的复杂性

这一点与做产品类似, 先基于需求做最简单的MVP, 不需要一上来就构建非常复杂的工作流, 系统越复杂, 不仅输出的时长更久, 而且成本也更高, 所以优先用简单的方式来搭建, 去解决核心需求

原则二, 将Agent规划执行的步骤展示给用户, 从而增加系统的可理解性和可信度

比如协调器的编排方式, 可以让用户直观地查看自动分解的任务结果和任务推理过程,从而增强输出内容的可信度