近⽇，蚂蚁集团语言与机器智能部的论文《LLMRG: Improving Recommendations through Large Language Model Reasoning Graphs》中稿 AAAI 2024。

在推荐系统的研究中，利用图结构来增强模型表达能力已经成为一种重要的研究思路。然而，这些基于知识图谱或者交互图的推荐系统，虽然引入了丰富的关系信息，但是缺乏对用户行为和兴趣做深入推理和理解的能力。与此同时，大语言模型展现出了惊人的推理、类比等智能，为构建更加智能的推荐系统带来了新的机遇。

该框架利用大语言模型强大的推理能力，通过推理将用户的历史行为和属性信息连接起来，并进行发散式的延伸，构建出表达用户高阶兴趣的个性化推理图。同时，该工作还引入了自验证机制和自迭代的知识库，以进一步提升推理图质量。最后，个性化推理图被编码后作为附加特征，赋能传统的推荐模型，使其获得显著的性能提升。

现有的推荐系统主要依赖传统的机器学习技术，缺乏对用户行为和兴趣的深层理解和语义捕捉能力。尽管一些工作试图引入知识图谱来提供上下文信息,但这些图谱缺乏复杂推理的能力，无法真正理解用户的兴趣。

与此同时,大语言模型(LLM)在推理和逻辑方面取得了长足进展，展现出强大的因果推理、逻辑推理和类比推理能力，为发展更优秀的知识表示方法铺平了道路。因此，我们提出利用LLM构建个性化推理图来增强推荐系统。该图通过因果和逻辑推理将用户的特征和行为序列链接起来，刻画用户兴趣之间的高层次语义关系。

通过图神经网络对推理图进行编码，并将其作为传统推荐模型的额外输入，既能利用LLM推理出的概念关系，又能利用现有推荐系统的能力，实现更解释性、更合理的个性化推荐。

在本论文中，我们提出了一种创新的方法LLMRG(Large Language Model Reasoning Graphs)，利用大型语言模型(LLM)构建个性化推理图，将其与传统的推荐系统相结合，以提高推荐效果并增强可解释性。

主要创新点包括：

我们希望对由文本信息增强的用户序列进行分析，借助LLM所具有的自然语言理解能力及推理能力，对于用户行为进行深入理解。

在此基础上，设计LLM推理图模型（Large Language Model Reasoning Graphs ，LLMRG）其核心的模块为LLM增强的自适应推理模块（LLM-based Adaptive Reasoning Architecture，LLM-based ARA），利用该模型推理用户在交互行为过程中的内在意图，将具有内在逻辑相关性的子序列抽象为Reasoning Chain，并将完整的用户行为序列刻画为可以表示用户思维过程的Reasoning Graph。利用Reasoning Graph，可以对用户内在意图进行解刻画，作为同标签用户检索的推理依据。

并且由于Reasoning Graph的有向性，其能够刻画用户完整的意图动态过程，为了增强对于用户的意图表征，LLM-based ARA对于每一条Reasoning Chain进行拓展发散。完整的框架结构如下图所示：

框架整体分为四个核心模块：

在3个开源数据集（ML-1M，Amazon Beauty，Amazon Clothing）上进行了丰富的LLMRG验证实验，将我们提出的基于GPT3.5或GPT4的LLMRG模型与几种baseline方法比较。表格中的阴影区域突出显示了我们的LLMRG模型在3个数据集上相比现有basline的性能提升。

这些结果展示了LLMRG的即插即用本质，它可以有效提升多个现有推荐模型。这表明传统的推荐系统难以模拟用户多样化兴趣的概念关系。

相比之下，LLMRG框架可以在不需要任何额外信息的情况下提升推荐性能。这些改进展示了大型语言模型如何为推荐系统带来逻辑推理和可解释性。

我们进一步通过消融研究探索了LLMRG框架中每个模块的有效性。

以DuoRec作为基线模型,将其与基于GPT3.5或GPT4的LLMRG消融版本(有无发散扩展和自我验证模块)进行比较。下表的结果显示,无发散扩展模块的LLMRG(使用GPT3.5或GPT4)与完整LLMRG相比，只有微小的改进。然而,从LLMRG(GPT3.5)中移除自我验证模块实际上会降低性能。

这证明了GPT3.5的推理能力有限 - 在没有验证的情况下,不受控制的推理会引入噪声，从而降低整体性能。总的来说，这些消融实验清楚地证明了发散扩展和自我验证模块的价值，它们能够在保持准确性的同时实现更高级的推理。这两个模块相互协同，扩大了可能解决方案的搜索空间，同时过滤掉不准确或不连贯的推理路径。

在未来，我们计划在以下几个方向进一步推进LLMRG：

总的来说，LLMRG为推荐系统带来了逻辑推理和语义理解的全新范式，我们相信其具有广阔的潜在影响。未来我们将在此基础上持续努力，不断探索推荐系统的新方向。