AI知识库

53AI知识库

学习大模型的前沿技术与行业应用场景


LangChain 中的 Tool(工具)
发布日期:2024-12-01 08:12:49 浏览次数: 1596 来源:PyTorch研习社



LangChain 中,Agent 是一个 AI 实体,它与各种工具交互以执行任务或回答查询。工具本质上是通过允许 Agent 执行特定操作(例如检索当前时间或访问外部数据库)来扩展 Agent 功能的功能。


可以将工具传递给支持工具调用的聊天模型,从而允许模型请求执行具有特定输入的特定函数。


  • 工具是一种封装函数及其模式的方法,可以将其传递给聊天模型。

  • 使用 @tool 装饰器创建工具,这简化了工具创建过程,支持以下内容:

    • 自动推断工具的名称、描述和输入,同时还支持自定义。

    • 定义返回工件(例如图像、数据框等)的工具。

    • 使用注入的工具参数隐藏模式中的输入参数(从而隐藏模型中的输入参数)。



工具接口 




工具接口在 BaseTool 类中定义,它是 Runnable 接口的子类。


与工具模式相对应的关键属性:

  • name:工具的名称。

  • description:工具功能的描述。

  • args:返回工具参数的 JSON 模式的属性。


执行与工具关联的函数的关键方法:

  • invoke:使用给定的参数调用工具。

  • ainvoke:使用给定的参数异步调用工具。用于使用 Langchain 进行异步编程。



使用@tool装饰器创建工具




创建工具的推荐方式是使用 @tool 装饰器。此装饰器旨在简化工具创建过程,支持以下内容:

  • 自动推断工具的名称、描述和输入,同时还支持自定义。

  • 定义返回工件(例如图像、dataframe 等)的工具。

  • 使用注入的工具参数隐藏模式中的输入参数(从而隐藏模型中的输入参数)。


定义函数后,你可以使用 @tool 装饰它以创建实现工具接口的工具:


@tool 装饰器提供了其他选项来配置工具的模式(例如,修改名称、描述或解析函数的文档字符串以推断架构)。可以去参考官方文档:

https://python.langchain.com/api_reference/core/tools/langchain_core.tools.convert.tool.html


定义工具后,可以通过调用函数直接使用它:


我们还可以检查该工具的模式和其他属性:


在设计模型使用的工具时,请牢记以下几点:

  • 名称正确、文档正确且类型提示正确的工具更易于模型使用。

  • 设计简单且范围狭窄的工具,因为它们更易于模型正确使用。

  • 使用支持工具调用 API 的聊天模型来利用工具。

  • 要求模型从大量工具列表中进行选择会给模型带来挑战




工具调用





许多 AI 应用程序直接与人类交互。在这些情况下,模型以自然语言做出响应是合适的。但是,如果我们希望模型也直接与系统(例如数据库或 API)交互,该怎么办?这些系统通常具有特定的输入模式;例如,API 通常具有必需的访问请求体。这种需求催生了工具调用(也称为函数调用)的概念。我们可以使用工具调用来请求与特定模式匹配的模型响应。



  1. 创建工具:使用 @tool 装饰器创建工具。 

  2. 工具:工具需要连接到支持工具调用的模型。这使模型能够了解工具以及工具所需的相关输入模式。

  3. 调用工具:在适当的情况下,模型可以决定调用工具并确保其响应符合工具的输入模式。

  4. 执行工具:可以使用模型提供的参数执行工具。工具实现了 Runnable 接口,这意味着它们可以被直接调用(例如,tool.invoke(args))。



下面的伪代码说明了使用工具调用的推荐工作流程。创建的工具以列表形式传递给 .bind_tools() 方法。可以像往常一样调用此模型。如果进行了工具调用,模型的响应将包含工具调用参数。工具调用参数可以直接传递给工具。


LangChain 提供了一个标准化接口,用于将工具连接到模型。可以使用 .bind_tools() 方法指定模型可以调用哪些工具。


工具调用的一个关键原则是,模型根据输入的相关性决定何时使用工具。模型并不总是需要调用工具。例如,给定一个不相关的输入,模型不会调用该工具:


结果将是一个 AIMessage,其中包含模型以自然语言做出的响应(例如“你好!”)。但是,如果我们传递与工具相关的输入,模型应该选择调用它:


与之前一样,输出结果将是 AIMessage。但是,如果调用了该工具,结果将具有 tool_calls 属性。此属性包含执行该工具所需的所有内容,包括工具名称和输入参数:



文章来源:PyTorch研习社





53AI,企业落地应用大模型首选服务商

产品:大模型应用平台+智能体定制开发+落地咨询服务

承诺:先做场景POC验证,看到效果再签署服务协议。零风险落地应用大模型,已交付160+中大型企业

联系我们

售前咨询
186 6662 7370
预约演示
185 8882 0121

微信扫码

与创始人交个朋友

回到顶部

 
扫码咨询