我要投稿

使用Tool Use扩大Agent能力边界，更灵活也更智能

发布日期：2024-08-31 13:28:10 浏览次数： 1615

吴恩达曾在演讲中分享了关于AI Agent的四种设计模式：Reflection (反思)、Tool Use (工具使用)、Planning (规划) 和Multi-agent Collaboration (多智能体协作)。

今天我们重点看看工具使用 (Tool Use) 这种设计模式。

工具使用 (Tool Use) 是Agent工作流的关键设计模式，它赋予了大模型通过请求调用各种函数来收集信息、采取行动或操作数据的能力。这里所说调用的外部工具或系统，可以是API、数据库或是搜索引擎等等。

吴恩达的演讲中也推荐大家阅读这篇论文：

Efficient Tool Use with Chain-of-Abstraction Reasoning

论文地址：https://arxiv.org/pdf/2401.17464.pdf

这篇论文里提出了一种新的方法——抽象链 (COA)，通过训练大模型先解码带有抽象占位符的推理链，然后调用领域工具，填写特定的知识使每个推理链具体化，以此使大模型可以学习更通用的推理策略。

这些推理策略可以更好地适应不断变化的领域知识，同时大模型还可以并行执行解码和调用外部工具，大大降低了等待工具响应而引发的推理延迟。

为了更方便地理解上述设计，我们来看论文中的这张图：

这是COA方法的示意图。最上面绿色部分是给定的领域知识，蓝色部分是针对大模型微调后生成的多步骤的推理链。橙色部分就是今天的重点，调用外部工具，使用特定领域知识来使推理链具体化。最后的黄色部分就是基于推理链得到的最终答案。

论文中也表示，COA方法可以使模型回答的准确率及速度都有明显的提升。

由此我们可以看到，通过Tool Use的设计模式，Agent可以突破自身能力的限制，实现更复杂的任务执行以及更广泛的功能覆盖。

与此同时，Tool Use也使得Agent更加灵活和智能，可以根据不同的任务需求和环境变化来调用合适的工具。

那如何在具体的业务中，通过使用Tool Use的方法来应对Agent的复杂查询和多步骤任务处理的挑战呢？

据了解，58同城AI Lab大模型算法工程师曾禹飞所在的团队，他们探索并设计了RAG与Tool Use相结合的智能体开发方案，实现了知识和操作的双重优化。同时也优化了检索算法和工具调用的能力，高效整合RAG与Tool Use，最终使Agent能够快速获取信息并执行操作。在具体的应用场景中，任务完成率和系统性能均得到了明显的提升。

DataFun有幸邀请到了58同城AI Lab大模型算法工程师曾禹飞老师，他将在DataFunSummit2024: 生成式 AI 技术峰会的【AI Agent落地实践】论坛上分享他们具体的技术实践和避坑指南，希望能给你的团队带来启发。

53AI，企业落地应用大模型首选服务商

产品：大模型应用平台+智能体定制开发+落地咨询服务

承诺：先做场景POC验证，看到效果再签署服务协议。零风险落地应用大模型，已交付160+中大型企业

160+中大型企业正在使用53AI

立即咨询预约演示

百度智能云邀53AI：共创AI新纪元，启航智能新时代

2024-05-27

钉钉恒星计划：53AI与百余位企业家及钉钉生态伙伴，共议“AI 浪潮下的新机遇”

2024-05-22

热点资讯

GraphRAG+Ollama 本地部署，保姆教程，踩坑无数，闭坑大法

2024-07-18

万字长文解析：大模型需要怎样的硬件算力

2024-03-30

全面对比dify、coze、streamlit、chainlit

2024-04-26

“大数据+”医疗

2024-04-11

太强了！10大开源大模型！

2024-05-06

Qwen2 阿里最强开源大模型（Qwen2-7B）本地部署、API调用和WebUI对话机器人

2024-06-12

【深度】AI搜索产品深度分析-搜索原理和商业模式分析

2024-07-09

大模型训练及推理【硬件选型指南】及 GPU 通识

2024-05-09

Ollama 本地运行大模型(LLM)完全指南

2024-07-25

HealthGPT：华工数字孪生人实验室发布主动健康大模型基座

2023-07-01

大家都在问

OpenAI o1的架构流程已被Claude破解了？

2024-09-21

RAG检索失败率降低49%？Anthropic-Contextual-RAG方案解析-兼看老刘的课堂三部曲

2024-09-21

Multi-Agent架构-CrewAI详解

2024-09-21

聊聊RLHF的奖励模型——上海人工智能书生大模型的RW实践

2024-09-21

文档大模型，能否真正解决非结构化数据难题

2024-09-21

全球首发：第二代 RAG 系统 auto-coder.rag 相比市面主流RAG系统 20%-60% 效果提升

2024-09-21

从 Data 到 Data + AI，必然之路还是盲目跟风？

2024-09-21

SFR-RAG：高效精简的检索增强生成模型

2024-09-21

开箱即用的企业大模型应用平台

工作+AI

业务+AI

AIx业务

大模型咨询

大模型定制

相关资讯

160+中大型企业正在使用53AI

百度智能云邀53AI：共创AI新纪元，启航智能新时代

钉钉恒星计划：53AI与百余位企业家及钉钉生态伙伴，共议“AI 浪潮下的新机遇”

热点资讯

GraphRAG+Ollama 本地部署，保姆教程，踩坑无数，闭坑大法

万字长文解析：大模型需要怎样的硬件算力

全面对比dify、coze、streamlit、chainlit

“大数据+”医疗

太强了！10大开源大模型！

Qwen2 阿里最强开源大模型（Qwen2-7B）本地部署、API调用和WebUI对话机器人

【深度】AI搜索产品深度分析-搜索原理和商业模式分析

大模型训练及推理【硬件选型指南】及 GPU 通识

Ollama 本地运行大模型(LLM)完全指南

HealthGPT：华工数字孪生人实验室发布主动健康大模型基座

大家都在问

OpenAI o1的架构流程已被Claude破解了？

RAG检索失败率降低49%？Anthropic-Contextual-RAG方案解析-兼看老刘的课堂三部曲

Multi-Agent架构-CrewAI详解

聊聊RLHF的奖励模型——上海人工智能书生大模型的RW实践

文档大模型，能否真正解决非结构化数据难题

全球首发：第二代 RAG 系统 auto-coder.rag 相比市面主流RAG系统 20%-60% 效果提升

从 Data 到 Data + AI，必然之路还是盲目跟风？

SFR-RAG：高效精简的检索增强生成模型

热门标签

开箱即用的企业大模型应用平台

工作+AI

业务+AI

AIx业务

大模型咨询

大模型定制

相关资讯

160+中大型企业正在使用53AI

百度智能云邀53AI：共创AI新纪元，启航智能新时代

钉钉恒星计划：53AI与百余位企业家及钉钉生态伙伴，共议“AI 浪潮下的新机遇”

热点资讯

GraphRAG+Ollama 本地部署，保姆教程，踩坑无数，闭坑大法

万字长文解析：大模型需要怎样的硬件算力

全面对比dify、coze、streamlit、chainlit

“大数据+”医疗

太强了！10​大开源大模型！

Qwen2 阿里最强开源大模型（Qwen2-7B）本地部署、API调用和WebUI对话机器人

【深度】AI搜索产品深度分析-搜索原理和商业模式分析

大模型训练及推理【硬件选型指南】及 GPU 通识

Ollama 本地运行大模型(LLM)完全指南

HealthGPT：华工数字孪生人实验室发布主动健康大模型基座

大家都在问

OpenAI o1的架构流程已被Claude破解了？

RAG检索失败率降低49%？Anthropic-Contextual-RAG方案解析-兼看老刘的课堂三部曲

Multi-Agent架构-CrewAI详解

聊聊RLHF的奖励模型——上海人工智能书生大模型的RW实践

文档大模型，能否真正解决非结构化数据难题

全球首发：第二代 RAG 系统 auto-coder.rag 相比市面主流RAG系统 20%-60% 效果提升

从 Data 到 Data + AI，必然之路还是盲目跟风？

SFR-RAG：高效精简的检索增强生成模型

热门标签

太强了！10大开源大模型！