AI知识库

53AI知识库

学习大模型的前沿技术与行业应用场景


Dify工作流中的参数提取节点
发布日期:2024-07-23 08:08:59 浏览次数: 2038


一.定义

利用 LLM 从自然语言推理并提取结构化参数,用于后置的工具调用或 HTTP 请求。

Dify 工作流内提供了丰富的工具选择,其中大多数工具的输入为结构化参数,参数提取器可以将用户的自然语言转换为工具可识别的参数,方便工具调用。

工作流内的部分节点有特定的数据格式传入要求,如迭代节点的输入要求为数组格式,参数提取器可以方便的实现结构化参数的转换。

二.场景

1.从自然语言中提供工具所需的关键参数提取

如构建一个简单的对话式 Arxiv 论文检索应用。在该示例中:Arxiv 论文检索工具的输入参数要求为 论文作者论文编号,参数提取器从问题"这篇论文中讲了什么内容:2405.10739"中提取出论文编号 2405.10739,并作为工具参数进行精确查询。

2.将文本转换为结构化数据

如长故事迭代生成应用中,作为迭代节点的前置步骤,将文本格式的章节内容转换为数组格式,方便迭代节点进行多轮生成处理。

3.提取结构化数据并使用 HTTP 请求

可请求任意可访问的 URL ,适用于获取外部检索结果、webhook、生成图片等情景。

三.如何配置

配置步骤如下所示:

  • 选择输入变量,一般为用于提取参数的变量输入

  • 选择模型,参数提取器的提取依靠的是 LLM 的推理和结构化生成能力

  • 定义提取参数,可以手动添加需要提取的参数,也可以从已有工具中快捷导入

  • 编写指令,在提取复杂的参数时,编写示例可以帮助 LLM 提升生成的效果和稳定性

四.高级设置

1.推理模式

部分模型同时支持两种推理模式,通过函数/工具调用或是纯提示词的方式实现参数提取,在指令遵循能力上有所差别。例如某些模型在函数调用效果欠佳的情况下可以切换成提示词推理。

  • Function Call/Tool Call

  • Prompt

2.记忆

开启记忆后问题分类器的每次输入将包含对话中的聊天历史,以帮助 LLM 理解上文,提高对话交互中的问题理解能力。

3.输出变量

  • 提取定义的变量

query String: The Arxiv ID or author's name used for searching.

  • 节点内置变量

__is_success Number :提取是否成功,成功时值为 1,失败时值为 0。

__reason String :提取错误原因。



53AI,企业落地应用大模型首选服务商

产品:大模型应用平台+智能体定制开发+落地咨询服务

承诺:先做场景POC验证,看到效果再签署服务协议。零风险落地应用大模型,已交付160+中大型企业

联系我们

售前咨询
186 6662 7370
预约演示
185 8882 0121

微信扫码

与创始人交个朋友

回到顶部

 
扫码咨询