我要投稿

Lumos：开源语言代理训练框架，统一模块化引领AI前沿！

发布日期：2024-06-02 12:15:19 浏览次数： 1660

.01/

概述

Agent Lumos 是一个为开源语言代理（Language Agents）设计的统一和模块化训练框架。它特别针对复杂交互任务，旨在解决闭源代理（如基于GPT-4/3.5的代理）在可负担性、透明度和可复制性方面的不足。Lumos 框架包括三个主要模块：规划（Planning）、接地（Grounding）和执行（Execution），每个模块都旨在处理复杂任务的不同方面。

规划模块（Planning Module）：负责将复杂任务分解为一系列高层次的、与工具无关的子目标（subgoals），这些子目标用自然语言表达。
接地模块（Grounding Module）：将规划模块生成的高层次子目标转化为可以执行的低层次动作。这些动作可以通过执行模块中的各种工具来执行。
执行模块（Execution Module）：执行接地模块生成的动作，并获取执行结果。它部署了各种现成的工具，包括API、神经模型和虚拟模拟器。

Lumos 框架的特点是这三个模块之间的互动。

.02/

公式

为了通过代理模块来处理任务，Lumos 提出了两种交互公式化方法：Lumos-OnePass（Lumos-O）和Lumos-Iterative（Lumos-I）。

Lumos-OnePass (Lumos-O)：是一种高效的方法，可以在一次推理调用中生成所有子目标和接地动作，以一种单次传递的方式完成任务。
Lumos-Iterative (Lumos-I)：是一种迭代方法，每次迭代生成一个子目标及其对应的可执行动作。这种方法可以根据先前的执行结果和环境更新灵活地规划。

.03/

训练注释

Lumos 使用统一的数据格式，涵盖了多种任务类型，使其能够方便地支持一系列交互任务，包括但不限于问答、数学、编码、网络浏览、多模态推理和文本游戏。为了训练Lumos，研究者们收集了来自各种复杂交互任务的大规模、统一和高质量的训练注释，这些注释来自于现有基准测试中的真理性推理步骤。

Lumos 在多个数据集上展示了其关键优势：它在各种任务类型中的表现超越了多个更大的开源代理，甚至在问答和网络任务中超越了基于GPT的代理；它通过链式思维和非模块化集成训练产生了优于开源代理的性能；并且能够有效地泛化到未见过的任务，在WebShop等任务上超越了33B规模的代理和特定领域的代理。

Lumos 的设计和实现为开源语言代理的发展提供了新的方向，使其能够更好地适应和解决各种复杂的交互式任务。通过这种方法，Lumos 不仅推动了开源语言模型的性能边界，也为未来的研究和应用提供了强大的支持。

参考：

1. https://github.com/allenai/lumos

2. https://arxiv.org/abs/2311.05657

3. https://allenai.github.io/lumos/

53AI，企业落地应用大模型首选服务商

产品：大模型应用平台+智能体定制开发+落地咨询服务

承诺：先做场景POC验证，看到效果再签署服务协议。零风险落地应用大模型，已交付160+中大型企业

160+中大型企业正在使用53AI

立即咨询预约演示

百度智能云邀53AI：共创AI新纪元，启航智能新时代

2024-05-27

钉钉恒星计划：53AI与百余位企业家及钉钉生态伙伴，共议“AI 浪潮下的新机遇”

2024-05-22

热点资讯

最强 GPT 免费使用！GPT4O 开启多模态新时代！

2024-05-14

全民AI时代：手把手教你用Ollama & AnythingLLM搭建AI知识库，无需编程，跟着做就行！

2024-04-26

【开源看AI】4.9K star！Khoj：完美融合本地文档和在线网页的AI第二大脑

2024-05-22

OLLama详细的 api 介绍不完全指南 python 直接调用 OLLama api 翻译助手演示

2024-04-12

GraphRAG+Ollama 本地部署，保姆教程，踩坑无数，闭坑大法

2024-07-18

万字长文解析：大模型需要怎样的硬件算力

2024-03-30

微调神器LLaMA-Factory官方保姆级教程来了，从环境搭建到模型训练评估全覆盖

2024-05-10

开源项目Composio：突破 AI 智能体开发的边界

2024-08-13

更改ollama模型存储路径

2024-04-25

全面对比dify、coze、streamlit、chainlit

2024-04-26

大家都在问

疯狂星期四Qwen2.5开源，通义成了最Open的AI?

2024-09-20

在长上下文LLM的时代，RAG是否仍然必要？

2024-09-20

【AI赋能】揭秘大模型微调：如何让机器智能跃升一个台阶？

2024-09-19

从案例分析到客户沟通：AI提示词如何优化律师工作流程？

2024-09-19

o1 能带我们走进 AGI 吗？

2024-09-19

如何微调（Fine-tuning）大语言模型？

2024-09-18

AI软件必须用GPU么？

2024-09-18

ChatGPT有三个快捷指令和三个模式，你知道吗？

2024-09-17

开箱即用的企业大模型应用平台

工作+AI

业务+AI

AIx业务

大模型咨询

大模型定制

相关资讯

160+中大型企业正在使用53AI

百度智能云邀53AI：共创AI新纪元，启航智能新时代

钉钉恒星计划：53AI与百余位企业家及钉钉生态伙伴，共议“AI 浪潮下的新机遇”

热点资讯

最强 GPT 免费使用！GPT4O 开启多模态新时代！

全民AI时代：手把手教你用Ollama & AnythingLLM搭建AI知识库，无需编程，跟着做就行！

【开源看AI】4.9K star！Khoj：完美融合本地文档和在线网页的AI第二大脑

OLLama详细的 api 介绍不完全指南 python 直接调用 OLLama api 翻译助手演示

GraphRAG+Ollama 本地部署，保姆教程，踩坑无数，闭坑大法

万字长文解析：大模型需要怎样的硬件算力

微调神器LLaMA-Factory官方保姆级教程来了，从环境搭建到模型训练评估全覆盖

开源项目Composio：突破 AI 智能体开发的边界

更改ollama模型存储路径

全面对比dify、coze、streamlit、chainlit

大家都在问

疯狂星期四Qwen2.5开源，通义成了最Open的AI?

在长上下文LLM的时代，RAG是否仍然必要？

【AI赋能】揭秘大模型微调：如何让机器智能跃升一个台阶？

从案例分析到客户沟通：AI提示词如何优化律师工作流程？

o1 能带我们走进 AGI 吗？

如何微调（Fine-tuning）大语言模型？

AI软件必须用GPU么？

ChatGPT有三个快捷指令和三个模式，你知道吗？

热门标签

开箱即用的企业大模型应用平台

工作+AI

业务+AI

AIx业务

大模型咨询

大模型定制

相关资讯

160+中大型企业正在使用53AI

百度智能云邀53AI：共创AI新纪元，启航智能新时代

钉钉恒星计划：53AI与百余位企业家及钉钉生态伙伴，共议“AI 浪潮下的新机遇”

热点资讯

最强 GPT 免费使用！GPT4O 开启多模态新时代！

全民AI时代：手把手教你用Ollama & AnythingLLM搭建AI知识库，无需编程，跟着做就行！

【开源看AI】4.9K star！Khoj：完美融合本地文档和在线网页的AI第二大脑

OLLama详细的 api 介绍 不完全指南 python 直接调用 OLLama api 翻译助手演示

GraphRAG+Ollama 本地部署，保姆教程，踩坑无数，闭坑大法

万字长文解析：大模型需要怎样的硬件算力

微调神器LLaMA-Factory官方保姆级教程来了，从环境搭建到模型训练评估全覆盖

开源项目Composio：突破 AI 智能体开发的边界

更改ollama模型存储路径

全面对比dify、coze、streamlit、chainlit

大家都在问

疯狂星期四Qwen2.5开源，通义成了最Open的AI?

在长上下文LLM的时代，RAG是否仍然必要？

【AI赋能】揭秘大模型微调：如何让机器智能跃升一个台阶？

从案例分析到客户沟通：AI提示词如何优化律师工作流程？

o1 能带我们走进 AGI 吗？

如何微调（Fine-tuning）大语言模型？

AI软件必须用GPU么？

ChatGPT有三个快捷指令和三个模式，你知道吗？

热门标签

OLLama详细的 api 介绍不完全指南 python 直接调用 OLLama api 翻译助手演示