在您的应用程序中使用LLMs（大型语言模型）有一种更强大的方法：多agent框架。

我们大多数人都熟悉直接调用LLM，或者使用像RAG这样的技术来增加LLM的相关性和上下文。这些方法让您可以在应用程序中访问类似人类的推理，但模仿的是与一个通用型“人”交谈的行为。多agent框架的洞察力在于，它们模拟了一个团队，其中包含了通用型和专家型的agent，他们合作完成某项任务。这些agent基本上是循环，可以利用LLM的输出来调用其他软件工具（如获取数据），并将结果反馈给LLM，直到达到高级目标。当以下情况出现时，它们尤其有用：

您事先不确定需要哪些工具（例如，根据一些用户输入，您可能需要进行RAG、网络搜索或两者的结合，或其他操作） LLM可能需要几次尝试才能得到正确答案，而且正确答案可以在没有LLM的情况下进行验证（如编写功能性可执行代码）。如果您要采用多agent方法，您可以自己构建框架——但对于大多数人来说，使用现有的框架最有意义。为了做出正确的选择，让我们看看一些领先的多agent框架，以及每个框架的主要优缺点。

AutoGen优点：

社区活跃：AutoGen拥有一个非常活跃的社区，这对于寻求支持和协作的开发者来说非常有用。可定制agent：它还提供可定制的agent，可以集成LLMs、工具和人工反馈，使得任务执行具有很高的灵活性。缺点：

复杂性：这是一个相当复杂的框架，对于新用户来说可能是一个挑战，需要较陡的学习曲线才能有效地利用其功能。结构较松散：与其他框架相比，一些开发人员可能会发现AutoGen的结构较松散，这可能会影响实施的易用性。适用对象：重视社区驱动支持的开发人员，以及希望为复杂、大规模的LLM应用程序获得一个非常健壮的框架，这些应用程序集成了多个agent、工具和人工反馈。它擅长在需要跨各种应用领域动态、可定制代理互动的环境中表现出色。在 https://microsoft.github.io/autogen/ 上了解更多信息。

MetaGPT优点：

复杂的agent互动：MetaGPT 在支持agent之间的复杂互动方面表现出色，使其适用于复杂的多agent任务。丰富的库：它还配备了丰富的预定义agent库，能够在不需要大量定制开发的情况下实现一系列功能。缺点：

依赖 asyncio：严重依赖 asyncio，这对于网络密集型 I/O 是有益的，但与其他原生 python 并行处理方法相比有一些相当严重的限制。有限的通用性：MetaGPT 中代理的角色可能缺乏通用性，可能会限制其在需要高度可定制agent的场景中的使用。适用对象：需要复杂多agent互动和预定义复杂行为的项目。理想用于网络密集型异步操作和需要高级协作能力而无需大量定制的项目。在 https://www.deepwisdom.ai/ 上了解更多信息。

CrewAI优点：

生产焦点：CrewAI 在设计时考虑到了生产用途，特点包括清晰的代码和对实际应用的关注。agent委托：强调agent委托，允许采用结构化方法来分配任务给agent。缺点：

重新委托限制：对重新委托和使用外部agent的限制可能会约束任务分配和执行的灵活性。数据收集：收集匿名使用数据，这可能会引起一些团队的隐私担忧。适用对象：适用于需要结构化任务委托以及清晰、可靠执行的生产就绪应用程序，其中内置的框架分析不是问题。在 https://www.crewai.com/ 上了解更多信息。

LangGraph优点：

专业化agent重点：能够将复杂问题划分为由专业化agent针对的可管理任务，提高效率。图表示法：使用图表示法来管理agent连接，提供了一种清晰且可扩展的方式来处理多agent互动。缺点：

复杂的设置：基于图的设置对于不熟悉图论或希望实现更直接的开发人员来说可能很复杂。专注任务的限制：虽然在专注的任务中表现出色，但对于需要广泛agent协作的广泛或高度互联的任务，超出了简单图结构的有效性可能较低。适用对象：处理复杂的任务相互依赖关系——其基于图的方法非常适合可视化任务的相互依赖关系和代理关系。在 https://python.langchain.com/docs/langgraph/ 上了解更多信息。

AutoGPT优点：

记忆和上下文管理：像 AutoGen 一样，AutoGPT 在记忆和上下文方面也表现出色，为需要这些功能的 LLM 应用程序提供了优势。缺点：

视觉构建器依赖：依赖于视觉构建器进行应用程序设计，这可能会限制那些更愿意在代码中定义设计的团队的灵活性。适用对象：希望利用视觉设计工具轻松构建和管理多agent系统的开发人员，重点关注 LLM 使用中的记忆和上下文管理。在 https://autogpt.net/ 上了解更多信息。

结论最终，是否使用多agent框架以及选择哪一个，将取决于您的用例细节。但无论您选择哪一个，要将您的用例投入生产，您需要考虑如何评估这个 LLM 代理的“团队”。自己这样做可能会非常复杂，特别是在agent随时启动其他agent的情况下，其中一些agent可以访问您从未计划在 LLM 应用程序中使用的工具带来的上下文。如果没有强大的评估框架，可能无法知道您的应用程序是否正常工作，或者在您进行更新时是否得到改进。