项目简介

这份文件是一篇关于KnowAgent的研究论文，由Yuqi Zhu、Shuofei Qiao、Yixin Ou、Shumin Deng、Ningyu Zhang、Shiwei Lyu、Yue Shen、Lei Liang、Jinjie Gu、Huajun Chen共同撰写。以下是该文件的核心内容概述：

1. 研究背景与目标：

• 大型语言模型（LLMs）在复杂推理任务中展现出巨大潜力，但在与环境交互生成可执行动作时存在不足。

• 这些不足主要源于语言代理缺乏内置的动作知识，导致在任务解决过程中无法有效指导规划轨迹，从而产生规划幻觉。

• 为了解决这一问题，研究者提出了KnowAgent，一种通过引入显式动作知识来增强LLMs规划能力的新方法。

• KnowAgent方法：

• KnowAgent使用动作知识库和知识型自学习策略，在规划过程中约束动作路径，实现更合理的轨迹合成，从而提高语言代理的规划性能。

• 通过将动作知识转换为文本，使模型能够深入理解和利用这些知识来创建动作轨迹。

• 通过知识型自学习阶段，使用模型迭代过程中开发的轨迹来不断改进其对动作知识的理解及其应用。

• 实验结果：

• 在HotpotQA和ALFWorld上的实验结果表明，KnowAgent在不同骨干模型的基础上能够达到与现有基线相当的或更优越的性能。

• 进一步的分析表明，KnowAgent在减少规划幻觉方面是有效的。

• 主要贡献：

• 提出了KnowAgent，它采用知识型自学习将外部动作知识融入模型中，这是一种创新的方法，用于利用外部知识完善和增强语言代理的内在规划能力。

• 通过在HotpotQA和ALFWorld数据集上的实验，证明了KnowAgent可以匹配或超越其他基准模型。

• 进一步的分析验证了将动作知识用于规划的有效性，并展示了使用LLMs手动改进动作知识的可能性，从而减少人力劳动并提高性能。

• 研究限制：

• 目前实验仅限于常识问答和家庭环境数据集，但方法也适用于更广泛的领域，如医疗、算术、网络浏览和具身代理。

• 目前的研究集中在单一代理的应用上，未来的研究应该探索多代理系统。

• 动作知识库的自动化设计仍然是手动的、耗时的和劳动密集型的，尽管使用了GPT-4进行动作知识的提炼，但仍需要手动调整。

这篇论文详细介绍了KnowAgent的理论基础、实现细节、实验结果和未来研究方向，为如何通过外部动作知识增强LLMs的规划能力提供了新的视角和工具。