AI知识库

53AI知识库

学习大模型的前沿技术与行业应用场景


用LangChain构建自写自评剧本模式:LLMChain和Sequential Chain的业务应用
发布日期:2024-07-21 10:36:56 浏览次数: 1941


在大模型(LLMs)的简单应用中,单独使用语言模型往往已经足够。然而,随着业务需求的复杂化,单一的LLM已经不能满足所有的需求。因此,需要将LLMs与Chat Models链接在一起,或者将它们与其他组件结合使用,以构建更复杂的应用程序。LangChain为这种“链式”应用程序提供了Chain接口,使得复杂场景的实现变得更加简单和高效。
本文将重点讲解LangChain中的Chain Class基类、LLMChain以及Sequential Chain的实际业务应用。下期将分享Router Chain和Transform Chain。

一、Chain Class 基类

LangChain通过定义一个通用的Chain基类,简化了创建结构化组件调用序列的过程。这个基类为开发者提供了一个灵活而强大的接口,使得链式应用程序的开发变得直观和高效。

类继承关系

  • Chain --> <name>Chain # Examples: LLMChain, MapReduceChain, RouterChain

# 定义一个名为Chain的基础类class Chain(Serializable, Runnable[Dict[str, Any], Dict[str, Any]], ABC):"""为创建结构化的组件调用序列的抽象基类。链应该用来编码对组件的一系列调用,如模型、文档检索器、其他链等,并为此序列提供一个简单的接口。Chain接口使创建应用程序变得容易,这些应用程序是:- 有状态的:给任何Chain添加Memory可以使它具有状态,- 可观察的:向Chain传递Callbacks来执行额外的功能,如记录,这在主要的组件调用序列之外,- 可组合的:Chain API足够灵活,可以轻松地将Chains与其他组件结合起来,包括其他Chains。链公开的主要方法是:- `__call__`:链是可以调用的。`__call__`方法是执行Chain的主要方式。它将输入作为一个字典接收,并返回一个字典输出。- `run`:一个方便的方法,它以args/kwargs的形式接收输入,并将输出作为字符串或对象返回。这种方法只能用于一部分链,不能像`__call__`那样返回丰富的输出。"""
# 调用链def invoke(self, input: Dict[str, Any], config: Optional[runnableConfig] = None) -> Dict[str, Any]:"""传统调用方法。"""return self(input, **(config or {}))
# 链的记忆,保存状态和变量memory: Optional[BaseMemory] = None"""可选的内存对象,默认为None。内存是一个在每个链的开始和结束时被调用的类。在开始时,内存加载变量并在链中传递它们。在结束时,它保存任何返回的变量。有许多不同类型的内存,请查看内存文档以获取完整的目录。"""
# 回调,可能用于链的某些操作或事件。callbacks: Callbacks = Field(default=None, exclude=True)"""可选的回调处理程序列表(或回调管理器)。默认为None。在对链的调用的生命周期中,从on_chain_start开始,到on_chain_end或on_chain_error结束,都会调用回调处理程序。每个自定义链可以选择调用额外的回调方法,详细信息请参见Callback文档。"""
# 是否详细输出模式verbose: bool = Field(default_factory=_get_verbosity)"""是否以详细模式运行。在详细模式下,一些中间日志将打印到控制台。默认值为`langchain.verbose`。"""
# 与链关联的标签tags: Optional[List[str]] = None"""与链关联的可选标签列表,默认为None。这些标签将与对这个链的每次调用关联起来,并作为参数传递给在`callbacks`中定义的处理程序。你可以使用这些来例如识别链的特定实例与其用例。"""
# 与链关联的元数据metadata: Optional[Dict[str, Any]] = None"""与链关联的可选元数据,默认为None。这些元数据将与对这个链的每次调用关联起来,并作为参数传递给在`callbacks`中定义的处理程序。你可以使用这些来例如识别链的特定实例与其用例。"""

Chain基类的主要功能

  1. 有状态的:通过添加Memory,可以在Chain中保存状态和变量,使其具有记忆功能。

  2. 可观察的:通过Callbacks,可以在主要的组件调用序列之外执行额外的功能,如记录和监控。

  3. 可组合的:Chain API足够灵活,可以将不同的Chain和组件轻松结合,构建复杂的应用。


二、LLMChain

LLMChain是LangChain中最简单且最常用的链,常用于其他复杂Chains和Agents的内部调用。它由PromptTemplate和语言模型(LLM或Chat Model)组成。通过直接传入(或memory提供)的key-value对,LLMChain可以规范化生成Prompt Template,并将生成的prompt传递给大模型,最终返回大模型的输出。


实际业务应用

在实际业务中,LLMChain常用于文本生成、问题回答等场景。例如,在客户服务应用中,可以使用LLMChain生成个性化的回复,提高用户体验。

# 例子:客户服务应用中的LLMChainfrom langchain.chains import LLMChainfrom langchain.prompts import PromptTemplatefrom langchain.llms import OpenAI
prompt_template = PromptTemplate(template="客户提问:{question}\n客服回复:", input_variables=["question"])llm_chain = LLMChain(prompt_template=prompt_template, llm=OpenAI())
response = llm_chain.run({"question": "你们的退款政策是什么?"})print(response)


三、Sequential Chain

Sequential Chain允许用户将多个链连接起来,并将它们组合成执行特定场景的流水线(Pipeline)。这对于需要多个步骤处理的复杂任务尤为适用。

1、SimpleSequentialChain

SimpleSequentialChain是最简单形式的顺序链,每个步骤都具有单一输入/输出,并且一个步骤的输出是下一个步骤的输入。

实际业务应用

使用SimpleSequentialChain实现戏剧摘要和评论(单输入/单输出)。

# 例子:使用SimpleSequentialChain生成戏剧摘要和评论def simple_seq_chain_test():"""使用SimpleSequentialChain结合多个LLMChain进行文本生成。"""# 初始化与OpenAI GPT服务的连接#llm = OpenAI(model_name=model, temperature=2, max_tokens=1000) #直接访问OpenAI的GPT服务template = """你是一位剧作家。根据戏剧的标题,你的任务是为该标题写一个简介。
标题:{title}剧作家:以下是对上述戏剧的简介:"""
prompt_template = PromptTemplate(input_variables=["title"], template=template)synopsis_chain = LLMChain(llm=llm, prompt=prompt_template)
# 这是一个LLMChain,用于根据剧情简介撰写一篇戏剧评论。# llm = OpenAI(temperature=0.7, max_tokens=1000)template = """你是《纽约时报》的戏剧评论家。根据剧情简介,你的工作是为该剧撰写一篇评论。
剧情简介:{synopsis}
以下是来自《纽约时报》戏剧评论家对上述剧目的评论:"""
prompt_template = PromptTemplate(input_variables=["synopsis"], template=template)review_chain = LLMChain(llm=llm, prompt=prompt_template)# 这是一个SimpleSequentialChain,按顺序运行这两个链overall_chain = SimpleSequentialChain(chains=[synopsis_chain, review_chain], verbose=True)#review = overall_chain.run("三体人不是无法战胜的")review = overall_chain.run("向阳而生的程序员")

2、SequentialChain

SequentialChain是更通用形式的顺序链,允许多个输入/输出。


实际业务应用

使用SequentialChain实现戏剧摘要和评论(多输入/多输出)。


# 例子:使用SequentialChain生成戏剧摘要和评论def seq_chain_test():"""使用SequentialChain进行基于不同输入变量的文本生成。"""template = """你是一位剧作家。根据戏剧的标题和设定的时代,你的任务是为该标题写一个简介。
标题:{title}时代:{era}剧作家:以下是对上述戏剧的简介:"""
prompt_template = PromptTemplate(input_variables=["title", "era"], template=template)# output_keysynopsis_chain = LLMChain(llm=llm, prompt=prompt_template, output_key="synopsis", verbose=True)
# 这是一个LLMChain,用于根据剧情简介撰写一篇戏剧评论。
template = """你是《纽约时报》的戏剧评论家。根据该剧的剧情简介,你需要撰写一篇关于该剧的评论。
剧情简介:{synopsis}
来自《纽约时报》戏剧评论家对上述剧目的评价:"""
prompt_template = PromptTemplate(input_variables=["synopsis"], template=template)review_chain = LLMChain(llm=llm, prompt=prompt_template, output_key="review", verbose=True)
m_overall_chain = SequentialChain(chains=[synopsis_chain, review_chain],input_variables=["era", "title"],# Here we return multiple variablesoutput_variables=["synopsis", "review"],verbose=True)m_overall_chain({"title":"程序员是无法击溃的", "era": "AI时代"})
通过以上实例,我们可以看到,LangChain提供了强大而灵活的接口,能够满足各种复杂业务场景的需求。下期我们将深入探讨Router Chain和Transform Chain的应用,敬请期待。


53AI,企业落地应用大模型首选服务商

产品:大模型应用平台+智能体定制开发+落地咨询服务

承诺:先做场景POC验证,看到效果再签署服务协议。零风险落地应用大模型,已交付160+中大型企业

联系我们

售前咨询
186 6662 7370
预约演示
185 8882 0121

微信扫码

与创始人交个朋友

回到顶部

 
扫码咨询