在生成式AI的应用中，大语言模型（LLM）的“幻觉问题”始终是制约其落地的核心障碍。

传统检索增强生成（RAG）通过引入外部知识库缓解了这一矛盾，但其线性流程（检索→生成）在面对复杂任务时仍显不足。

例如，当用户提问“如何选择一款适合家庭使用的空气净化器？”时，传统RAG往往只能返回零散的产品选购建议，而无法系统性整合“核心性能指标”、“用户评价与口碑”、“不同品牌的性价比”等细节。

Agentic RAG与传统RAG的被动响应不同，Agentic RAG更像一个“项目经理”，能够自主优化问题、动态规划检索路径，并通过多轮验证优化输出结果。这种从“工具”到“智能体”的转变，大大提升了系统的处理能力。

1. 基本概念 

1.1 什么是Retrieval-Augmented Generation (RAG)

一个简单的 RAG 由一个检索组件（通常由嵌入模型和向量数据库组成）和一个生成组件（一个LLM）构成。

在推理时，用户查询的问题在索引文档中进行相似性搜索，检索出与问题最相似的文档，并为LLM提供额外的上下文。

它通过整合外部知识源来增强传统的大语言模型 (LLM)，使LLM能够访问和利用除初始训练数据之外的其他大量信息。

可以将 RAG 想象为一位学者，除了拥有自己的知识外，还可以即时访问到一座全面的图书馆。

典型的 RAG 应用有两个显著的局限性

1. 简单的 RAG 仅考虑一个外部知识源。然而，一些场景可能需要多个外部知识源，而另一些场景可能需要外部工具和 API，例如网络搜索。

2. 上下文只被检索一次。对于检索到的上下文的质量没有推理或验证。

1.2 什么是Agent

AI Agent，即人工智能代理，一般直接叫做智能体。在是一种能够感知环境、做出决策并采取行动的系统。

这些系统能够执行被动的任务，也能够主动寻找解决问题的方法，适应环境的变化，并在没有人类直接干预的情况下做出决策。

Agent的核心组成部分是：

• 模型

  在Agent的范畴内，模型指的是Agent流程中集中决策者的语言模型（LLM）。

• 记忆

  包含短期记忆和长期记忆两部分。短期记忆与上下文学习有关，属于提示工程的一部分，而长期记忆涉及信息的长时间保留和检索，通常利用外部向量存储和快速检索。

• 规划

  Agent需要具备规划(同时也包含决策)能力，以有效地执行复杂任务。这涉及子目标的分解(Subgoal Decomposition)、连续的思考(即思维链)、自我反思和批评(Self-critics)，以及对过去行动的反思(Reflection)

• 工具

  Agent 可能调用的各种工具，如日历、计算器、代码解释器和搜索功能等

1.3 什么是Agentic RAG

Agentic RAG 是一种基于 AI Agent的 RAG 实现。

具体而言，它将AI Agent纳入 RAG 流程中，以协调其组件并执行超越简单信息检索和生成的额外操作，以克服RAG基本流程的局限性。

RAG Agent可以在以下示例检索场景中进行推理和行动：

1. 决定是否检索信息
2. 决定使用哪个工具来检索相关信息
3. 优化查询问题
4. 评估检索到的上下文，并决定是否需要重新检索。

1.4 Agentic RAG 和 RAG 区别

尽管 RAG（发送查询、检索信息和生成响应）的基本概念保持不变，但工具的使用使其更加通用，从而变得更加灵活和强大。

1.4.1 传统RAG的核心机制

• 流程固定：用户提问 → 单次检索外部数据 → 生成回答。
• 被动响应：基于当前查询直接检索，生成一次性结果。
• 适用场景：简单问答、事实性查询（如“太阳系有多少行星？”）。

1.4.2 Agentic RAG的创新点

自主决策与动态流程：

• 任务优化和分解：对用户问题进行优化或将复杂问题拆解为子任务（如“比较A和B”分解为检索A、检索B、对比分析）。
• 多步交互：多次检索与生成循环，逐步优化结果（如先查定义，再查应用，最后整合）。
• 动态调整：根据生成内容或用户反馈调整检索策略（如补充遗漏的信息源）。

主动性与智能体特性：

• 规划模块：决定何时检索、如何分解问题。
• 自我评估：检查答案完整性，触发二次检索或修正（如发现数据冲突时重新验证）。

交互与反馈：

• 多轮对话：支持上下文感知的持续交互（如追问、澄清需求）。
• 用户反馈利用：根据用户修正（如“我需要更多细节”）优化后续步骤。

2. 核心架构 

2.1 Agentic RAG 架构

在最基本的形式中，Agent是一个路由的作用。Agent决定从哪个来源检索额外的上下文。外部知识来源于（向量）数据库或其他渠道。

在更复杂的场景中，多智能体系统发挥作用。这些架构涉及多个智能体协同工作，每个智能体专注于特定的任务或数据源。

2.2 Agentic RAG的实现思路

基本的Agentic RAG的核心架构主要由规划模块、执行模块两个基本模块组成。

这些模块通过动态协作，实现了从任务优化到结果生成的全流程自动化。

2.2.1 规划模块：任务优化与决策

规划模块是Agentic RAG的“大脑”，负责将用户查询的问题进行优化，或将复杂的问题拆解为可执行的子任务。其核心功能包括意图识别和任务优化。

例如，当用户提问“如何选择一款适合家庭使用的空气净化器？”时，规划模块会首先识别问题的核心需求（如“产品选购建议”），然后生成一系列子任务，如“检索空气净化器的核心性能指标”、“查找用户评价与口碑”、“分析不同品牌的性价比”等。

2.2.2 执行模块：知识检索与生成优化

执行模块是Agentic RAG的“双手”，负责完成具体的检索与生成任务。

其中生成优化是执行模块的关键功能。传统RAG的生成过程往往是一次性的，而Agentic RAG则引入了多轮生成与修正机制。

例如，当系统检测到生成内容中存在低可信度声明时，会自动触发修正检索，补充缺失信息或修正错误内容。

3. 技术实现 

完整的状态图：

# 定义新的工作流
workflow = StateGraph(AgentState)  # 使用AgentState作为状态类型

# 定义工作流中的节点 
workflow.add_node("agent", agent)  # 添加智能体节点
retrieve = ToolNode([retriever_tool])  # 创建检索工具节点
workflow.add_node("retrieve", retrieve)  # 添加检索节点
workflow.add_node("rewrite", rewrite)  # 添加问题重写节点
workflow.add_node("generate", generate)  # 添加答案生成节点（在确认文档相关后使用）

# 设置初始边：从START到agent节点
workflow.add_edge(START, "agent")

# 设置条件边：根据智能体决策决定是否检索
workflow.add_conditional_edges(
    "agent",
    tools_condition,
    {
        # 将条件输出映射到图中的节点
        "tools": "retrieve",  # 如果需要工具，则转到retrieve节点
        END: END,  # 否则结束流程
    },
)

# 设置检索后的条件边
workflow.add_conditional_edges(
    "retrieve",
    # 评估文档相关性
    grade_documents,
)

# 设置固定边
workflow.add_edge("generate", END)  # 生成答案后结束
workflow.add_edge("rewrite", "agent")  # 重写问题后回到智能体节点

3.1 规划模块

规划模块由agent、查询优化（rewrite query）和文档相关性评估（grade_documents）共同组成

# 文档相关性评估函数
def grade_documents(state) -> Literal["generate", "rewrite"]:
    """
    评估检索到的文档是否与问题相关

    Args:
        state (messages): 当前状态

    Returns:
        str: 文档是否相关的决策结果
    """

    print("---检查文档相关性---")

    # 数据model
    class grade(BaseModel):
        """用于相关性检查的二元评分"""
        binary_score: str = Field(description="相关性评分 'yes' 或 'no'")

    # 初始化LLM模型
    model = ChatOpenAI(temperature=0, model="gpt-4o-mini", base_url="https://api.openai-hk.com/v1",streaming=True)

    # 为LLM添加结构化输出功能
    llm_with_tool = model.with_structured_output(grade)

    # 提示词模板
    prompt = PromptTemplate(
        template="""你是一个评估检索文档与用户问题相关性的评分器。\n 
        这是检索到的文档: \n\n {context} \n\n
        这是用户的问题: {question} \n
        如果文档包含与用户问题相关的关键词或语义含义，则将其评为相关。\n
        给出二元评分 'yes' 或 'no' 来表示文档是否与问题相关。""",
        input_variables=["context", "question"],
    )

    # 构建处理链
    chain = prompt | llm_with_tool

    # 获取消息和文档
    messages = state["messages"]
    last_message = messages[-1]
    question = messages[0].content
    docs = last_message.content

    # 执行评估
    scored_result = chain.invoke({"question": question, "context": docs})
    score = scored_result.binary_score

    # 根据评分返回决策
    if score == "yes":
        print("---决策: 文档相关---")
        return"generate"
    else:
        print("---决策: 文档不相关---")
        print(score)
        return"rewrite"


### Nodes


def agent(state):
    """
    调用智能体模型根据当前状态生成响应。根据问题决定是否使用检索器工具或直接结束。

    Args:
        state (messages): 当前状态

    Returns:
        dict: 更新后的状态，包含附加到消息中的智能体响应
    """
    print("---调用智能体---")
    messages = state["messages"]  # 获取当前消息
    model = ChatOpenAI(temperature=0, streaming=True, base_url="https://api.openai-hk.com/v1",model="gpt-4o-mini")  # 初始化LLM模型
    model = model.bind_tools(tools)  # 绑定工具
    response = model.invoke(messages)  # 调用模型生成响应
    return {"messages": [response]}  # 返回更新后的消息列表


def rewrite(state):
    """
    转换查询以生成更好的问题。

    Args:
        state (messages): 当前状态

    Returns:
        dict: 更新后的状态，包含重新表述的问题
    """

    print("---转换查询---")
    messages = state["messages"]  # 获取当前消息
    question = messages[0].content  # 获取原始问题

    # 构建改进问题的提示
    msg = [
        HumanMessage(
            content=f""" \n 
    查看输入并尝试理解其潜在的语义意图/含义。\n 
    这是初始问题:
    \n ------- \n
    {question} 
    \n ------- \n
    请提出一个改进后的问题: """,
        )
    ]

    # 初始化LLM模型
    model = ChatOpenAI(temperature=0, base_url="https://api.openai-hk.com/v1",model="gpt-4o-mini", streaming=True)
    response = model.invoke(msg)  # 生成改进后的问题
    return {"messages": [response]}  # 返回更新后的消息

3.2 执行模块

执行模块由retrieve、generate组成

# 定义要处理的网页URL列表
urls = [
    "https://lilianweng.github.io/posts/2023-06-23-agent/",
    "https://lilianweng.github.io/posts/2023-03-15-prompt-engineering/",
    "https://lilianweng.github.io/posts/2023-10-25-adv-attack-llm/",
]

# 加载所有网页文档
docs = [WebBaseLoader(url).load() for url in urls]
# 将嵌套列表展平为一维列表
docs_list = [item for sublist in docs for item in sublist]

# 创建文本分割器实例
text_splitter = RecursiveCharacterTextSplitter.from_tiktoken_encoder(
    chunk_size=100, chunk_overlap=50
)
# 执行文档分割操作
doc_splits = text_splitter.split_documents(docs_list)


# 初始化嵌入模型
embedding_llm = OpenAIEmbeddings(
    base_url="https://api.openai-hk.com/v1"
)

# 创建向量数据库实例
vectorstore = Chroma.from_documents(
    documents=doc_splits,  # 分割后的文档
    collection_name="rag-chroma",  # 集合名称
    persist_directory="./chroma_db",  # 持久化存储目录
    embedding=embedding_llm,  # 使用的嵌入模型
)


# 创建检索器实例
retriever = vectorstore.as_retriever()  # 将向量数据库转换为检索器
########################################################################################################################
# 导入检索器工具创建函数
from langchain.tools.retriever import create_retriever_tool

# 创建检索器工具实例
retriever_tool = create_retriever_tool(
    retriever,  # 检索器实例
    "retrieve_blog_posts",  # 工具名称
    "搜索并返回有关 Lilian Weng 博文的信息，内容涉及 LLM agents、提示工程和对 LLMs 的对抗性攻击。",  # 工具描述
)



def generate(state):
    """
    生成答案

    Args:
        state (messages): 当前状态

    Returns:
         dict: 更新后的状态，包含生成的答案
    """
    print("---生成答案---")
    messages = state["messages"]  # 获取当前消息
    question = messages[0].content  # 获取问题
    last_message = messages[-1]  # 获取最后一条消息
    docs = last_message.content  # 获取检索到的文档

    # 获取RAG提示词模板
    prompt = hub.pull("rlm/rag-prompt")

    # 初始化LLM模型
    llm = ChatOpenAI(base_url="https://api.openai-hk.com/v1",model_name="gpt-4o-mini", temperature=0, streaming=True)

    # 文档格式化函数
    def format_docs(docs):
        return"\n\n".join(doc.page_content for doc in docs)  # 将多个文档内容合并

    # 构建RAG处理链
    rag_chain = prompt | llm | StrOutputParser()

    # 执行RAG链生成答案
    response = rag_chain.invoke({"context": docs, "question": question})
    return {"messages": [response]}  # 返回包含答案的更新后消息


prompt = hub.pull("rlm/rag-prompt").pretty_print()  

4. Agentic RAG 的局限性 

尽管Agentic RAG展现了巨大的潜力，但其发展仍面临诸多局限：

计算延迟：

多轮检索与修正机制显著增加了计算开销。

计算成本激增：

多轮检索与评估使API调用次数大幅度增长。

责任归属困境：

当自主生成的医疗建议导致误诊时，责任归属不明确

Agentic RAG不仅代表着技术的迭代，更预示着人机协作模式的根本变革。当系统能够自主完成需求分析→知识检索→逻辑推理→结果验证的全流程时，人类专家得以从信息过载中解放，专注于更高阶的创造性工作。