大模型推理，一般指的是将任务分解为更小的子集并单独解决这些子集。Chain-of-Thought, Tree-of-Tought, Skeleton-of-Thought,  Reflexion等等，都是LLMs中解决推理能力的一些技巧。

当然推理的范畴还涉及一些借助外部能力，例如访问外部数据或工具。在过去几年中，我们看到模型在特定场景推理技术中表现得非常好，但它们未能跨领域泛化。并且推理是一项计算成本非常高的任务。最近有一个开源框架-哈士奇，由 Meta AI、华盛顿大学的科学家们开源。

框架开源地址 & 论文地址：

https://arxiv.org/html/2406.06469v1
https://github.com/agent-husky/Husky-v1

论文标题：Husky: A Unified, Open-Source Language Agent for Multi-Step Reasoning

先看效果：

HUSKY-哈士奇 是一个开源Agent，主要处理涉及数字、表格和基于知识的推理的各种复杂任务。与其他专注于特定任务或使用专有模型的智能体不同，HUSKY 在统一的框架内运行来应对不同的挑战。它分两个阶段工作：首先，它生成解决任务所需的下一个动作；其次，它使用专家模型执行此操作，并随着解决方案的进展而更新解决方案。

对于需要多步推理的任务，HUSKY 会预测下一步的动作和相应的工具，然后用专家模型来执行。这个过程一直持续到找到最终答案为止。 HUSKY 使用多个 LLMs 来协调专家模型，类似于一群哈士奇一起拉雪橇。

训练哈士奇

HUSKY 的训练涉及到使用教师模型创建工具集成的解决方案轨迹。这些轨迹有助于为动作生成器和专家模型构建训练数据。训练流程被简化且可推广，确保 HUSKY 可以处理广泛的任务，而无需特定于任务的假设。

最后：

HUSKY 代表了language agent的重大进步，为复杂的推理任务提供了多功能的开源解决方案。其整体方法将行动生成和执行与专家模型相结合，使其能够有效应对各种挑战。从各种评估中可以看出，HUSKY 的表现凸显了它重新定义语言代理处理复杂问题的潜力。