1 介绍

• 技术方案交流
• 欢迎关注公众号
  
  

2 前言

由于工作需要，本人在近一年的工作中帮助多个客户实现了基于LLM的AI应用场景落地，也调研实践了目前的很多生成式AI应用开发技术，包括使用RAG、工作流、Agent（含多Agent)协同等各项生成式AI的技术的综合应用，因此本人想对基于Agent进行生成式AI开发做实践总结。

3 正文

3.1 引言

随着人工智能技术的飞速发展，大语言模型（LLM)、检索增强技术（RAG)和智能体（Agent)已经成为推动该领域进步的关键技术。正确理解这三者的概念及其之间的关系是面向GenAI开发的基础。下图是2024年国内的AIGC产业链企业的总结。

3.2 LLM、RAG和Agent之间的对比

因此，可以理解为LLM是基础，RAG是在LLM基础上的进一步应用，而智能体则是综合运用LLM和RAG以及其他技术，在更复杂环境中进行交互和任务执行的实体。这种关系体现了从基础技术到应用技术再到实际应用的逐级深入。

3.3 LLM Agent架构

由于大语言模型（LLM)在处理复杂问题时特别是需要多步骤的复杂问题处理时面临的困难，因此业界提出了一些针对性的prompt解决方案，例如Chain-Of-Thought,CoT) ^[1]、Tree of Thoughts,ToT^[2]等。

在现实世界的场景中，决策通常需要经过一系列步骤进行处理，包括观察、推理和行动。这是一个迭代的过程，直到获得最终结果。这一过程启发了现代LLM Agent的设计，这些代理通常遵循“观察-推理-行动-重复”模型，反映了人类问题解决方法。可以参考文章 ReAct: Synergizing Reasoning and Acting in Language Models^[3]。

在Lilian Weng在2023年的LLM Powered Autonomous Agents^[4]里给出了LLM Agent的架构，核心模块包含Planning、Memory、Tool use。

一个典型的LLM Agent的工作场景演示示意图：例如，Python REPL用于解决分析任务，若需获取最新信息，则应进行网络搜索；而当用户要求创建图像时，则可使用Dall-E3。

3.4 LLM Agent开发框架

目前，很多公司都推出了帮助开发者实现LLM Agent的开发助手，例如OpenAI's Assistants API^[5]、Langchain's agent^[6]结合Langgraph^[7]；Dify.ai^[8]、Coze^[9]等也推出了自己的Agent开发框架。

本文主要基于AWS Bedrock Agent^[10] 来进行生成式AI应用开发实验演示。

3.5 AWS Bedrock Agent介绍

AWS Bedrock Agent^[11]使生成式AI应用程序能够在不同系统和数据源之间执行多步骤任务。Agent利用基础模型的推理能力将用户请求分解为逻辑序列，确定所需信息，并决策调用哪些API以及执行顺序。Bedrock Agent可以通过AWS CLI、控制台或者API进行创建。Bedrock Agent包含如下模块^[12]:

• 基础模型（Foundation model，FM) : 基础模型理解用户请求，将复杂任务分解为多个步骤，并通过对话收集额外信息以采取行动完成请求。
• 说明（Instructions）: 编写说明来描述代理的设计用途。借助高级提示，用户可以在编排的每个步骤中为代理进一步自定义指令，并包含用于解析每个步骤输出的 Lambda 函数。
• 以下至少一项：
  - Action Groups(操作组）：用户可以提供以下资源来定义Agent为用户执行
    的操作：OpenAPI schema或者 function deatil schema；Lambda函数（调用Agent)
  - 知识库(Knowledge bases) : 将知识库与Agent进行关联，以便Agent能够查询知识库获取额外的上下文信息，从而提升Agent生成的回答质量
• 提示模版(Prompt templates): 提示模板是创建要提供给 FM 的提示的基础，AWS Bedrock agent公开了预处理、编排、知识库响应生成和后处理期间使用的默认四个基本提示模板。用户可以选择编辑这些基本提示模板，以自定义代理在其序列的每个步骤中的行为。详情参考Advanced prompts in Amazon Bedrock^[13]
  

3.6 实践示范

1. 实践一:  基于AWS Bedrock 构建企业产品知识问答助理agent

主要流程如下：

• 创建AWS Bedrock agent

• 创建知识库(Knowledge bases)

• 创建操作组(Action Groups) : AWS Lambda函数(含权限控制）以及OpenAPI Schemas^[14]

• 测试Agent，测试过程中可以使用AWS Bedrock Trace events^[15]进行调试

• Agent更新部署(使用agent version和agent alias)，参考Deploy an agent^[16]
  

参考代码仓库^[17]

2. 实践二：基于AWS Bedrock自建生成式AI平台（复杂应用）

主要流程如下：

• 用户在浏览器客户端发起访问请求，经过AWS CloudFront缓存并回源AWS S3获取网站静态资源

• 用户在网页端登录，通过SDK请求AWS Cognito获取登录认证授权 JWT token信息

• 用户登录后需要在前端页面根据业务需要请求相关功能时，首先调用Lambda Function Url进行相关请求的签名，携带JWT Token信息验证用户权限并获得签名后的请求header信息

• 根据业务需要，使用签名后的header请求相关服务的AWS Lambda Function URL（Model对话、Agent对话、翻译、知识库等）

• AWS Lambda Function 根据需要使用Bedrock SDK请求Bedrock的相关功能

• 请求结果上下文记录到AWS DynamoDB的Table中