我要投稿

LangChain在智能客服和高效文档处理的新利器：Router Chain与Transform Chain

发布日期：2024-07-08 08:15:50 浏览次数： 3095

作者：智能体AI

微信搜一搜，关注“智能体AI”

在简单的大模型应用中，单独使用语言模型（LLMs）通常就能满足需求。然而，对于更加复杂的应用场景，我们需要将LLMs和Chat Models链接在一起，或者将它们与其他组件链接。这就是LangChain的强大之处，它通过Chain接口实现了这种“链式”应用程序的管理和编排。

在本文中，我们将重点讲解LangChain中的两个重要组件：Transform Chain和Router Chain。上期文章中，我们已经分享了LLMChain和Sequential Chain的使用方法。本期，我们将深入探讨Transform Chain如何实现快捷处理超长文本，以及Router Chain如何实现条件判断的大模型调用。

一、Transform Chain

1. Transform Chain：实现快捷处理超长文本

在实际业务中，处理超长文本是一个常见的需求。例如，在法律文档分析、客户服务记录处理等场景中，我们需要对超长文本进行分割、摘要或分类。Transform Chain可以帮助我们高效地完成这些任务。

Transform Chain通过对输入文本进行预处理，然后将处理后的文本传递给下一个链中的组件来实现这一点。下面是一个具体的业务场景：

场景示例：法律文档分析

假设我们有一个法律顾问系统，需要对客户上传的长篇法律文档进行分析并生成摘要。我们可以使用Transform Chain将超长文档分割成多个小段落，然后依次传递给LLM进行处理，最后将结果汇总。

from langchain.chains import TransformChainfrom langchain.llms import OpenAIfrom langchain.text_splitter import CharacterTextSplitter
# 初始化文本分割器text_splitter = CharacterTextSplitter(separator="\n\n", chunk_size=1000, chunk_overlap=200)
# 初始化语言模型llm = OpenAI(api_key="your_openai_api_key")
# 定义Transform Chaindef text_transformer(inputs):texts = text_splitter.split_text(inputs['text'])return {'texts': texts}
transform_chain = TransformChain(transformer=text_transformer, llm=llm)
# 处理输入文本input_text = "这是一个超长的法律文档..."result = transform_chain.run({'text': input_text})

2. 使用Sequential Chain编排

在处理完超长文本后，我们可以使用Sequential Chain将结果进行进一步处理。例如，我们可以对每个段落的分析结果进行汇总，生成一个综合的摘要报告。

from langchain.chains import SequentialChain
# 定义后续处理链def summarizer_chain(inputs):summaries = [llm.predict(text) for text in inputs['texts']]return {'summary': "\n".join(summaries)}
# 创建Sequential Chainsequential_chain = SequentialChain(chains=[transform_chain, summarizer_chain])
# 生成最终摘要final_result = sequential_chain.run({'text': input_text})

二、Router Chain：实现条件判断的大模型调用

1. Router Chain构建一个可定制的链路系统

Router Chain使我们能够根据不同的输入提示，调用适当的LLMChain。它的主要逻辑是：从prompt_infos创建多个LLMChain对象，并将它们保存在一个字典中，然后创建一个默认的ConversationChain，最后创建一个带有路由功能的MultiPromptChain。

场景示例：智能客服系统

在一个智能客服系统中，我们需要根据用户的不同问题类型调用不同的模型来生成回应。例如，对于技术支持问题调用技术支持模型，对于订单查询问题调用订单查询模型。

from langchain.chains import MultiPromptChain, LLMChain, ConversationChainfrom langchain.prompts import PromptTemplate
# 定义不同的提示信息和对应的LLMChainprompt_infos = {"tech_support": PromptTemplate(template="技术支持：{query}"),"order_query": PromptTemplate(template="订单查询：{query}")}
llm_chains = {key: LLMChain(prompt=prompt, llm=llm) for key, prompt in prompt_infos.items()}default_chain = ConversationChain(llm=llm)
# 创建MultiPromptChainmulti_prompt_chain = MultiPromptChain(prompt_infos=llm_chains, default_chain=default_chain)
# 处理用户输入user_input = "我想查询我的订单状态"response = multi_prompt_chain.run({'query': user_input})

2. 使用LLMRouterChain实现条件判断调用

我们可以定义一个LLMRouterChain对象，该对象首先使用router_chain来决定哪个destination_chain应该被执行，如果没有合适的目标链，则默认使用default_chain。

from langchain.chains import LLMRouterChain
# 定义Router Chainrouter_chain = LLMRouterChain(prompt_infos=llm_chains, default_chain=default_chain)
# 根据条件判断调用适当的链response = router_chain.run({'query': user_input})

通过Transform Chain和Router Chain，LangChain提供了强大的工具来处理复杂的业务场景。无论是处理超长文本，还是实现条件判断的大模型调用，LangChain都能帮助我们构建高效、智能的应用程序。