简介

小红书和Lemon8等社交媒体专注于用户生成内容(UGC)，鼓励用户分享他们的产品评论、旅游博客和生活经历，以及其他内容，也被称为“笔记”。通过根据用户偏好提供更个性化的笔记，笔记推荐在提高用户参与度方面起着至关重要的作用。Item-to-item(I2I)笔记推荐是从百万级笔记池中检索用户可能感兴趣的笔记的方法。对于目标笔记，I2I方法根据内容或协同信号选择相应笔记。

现有的I2I笔记推荐在线方法通常是将整个笔记内容输入到基于bert的模型中，生成笔记的嵌入，并根据嵌入相似度推荐相关笔记。然而，这些方法仅仅将标签/类别视为笔记内容的一个组成部分，没有充分利用它们的潜力。我们发现生成标签/类别类似于生成注释嵌入。两者都将关键笔记信息压缩到有限的内容中。因此，学习生成标签/分类可以潜在地提高嵌入的质量。

我们提出了一种统一的多任务方法，称为NoteLLM。NoteLLM基于LLM学习I2I笔记推荐和标签/类别生成任务，旨在通过学习提取浓缩概念来增强I2I笔记推荐能力。我们首先为每个笔记样本构建一个统一的笔记压缩提示符，然后通过预训练的LLM进行解码，LLM利用特殊的令牌压缩笔记内容并同时生成标签/类别。为了构建相关的笔记对，我们从用户行为中计算所有笔记对的共现分数，并形成每个笔记的共现分数集。我们在集合中选择具有最高共现分数的笔记作为给定笔记的相关笔记。此外，为了推荐每个样本的相关笔记，生成对比学习(GCL)利用压缩的标记作为每个笔记的嵌入，然后训练llm从批量数据中识别相关笔记。同时，我们采用协作监督微调(CSFT)方法来训练模型，为每个笔记生成标签/类别。由于I2I笔记推荐任务学习到的压缩令牌和标签/分类生成任务都是为了提取笔记内容的关键概念，所以CSFT可以有效地增强笔记嵌入。

LLM用于推荐

将LLM与推荐相结合的主要方法有三种。第一种方法是利用LLM来扩充数据，然而，这些方法需要对测试数据进行连续预处理，以与增强的训练数据保持一致，并且高度依赖于LLM生成的质量。第二种方法是利用LLM直接推荐，这些方法设计特殊提示或使用监督微调来诱导LLM回答给定的问题。然而，由于上下文长度有限，这些方法只关注重新排序阶段。最后一种方法是采用LLM作为编码器来生成表示特定item的嵌入，虽然这些方法对提取信息是有效的，但它们都放弃了LLM的生成能力。与上述方法相比，NoteLLM在召回阶段使用LLM，并学习标签生成，以提高LLM生成嵌入的能力。

从文本生成标签/类别

标签和分类作为社交媒体上的标签机制，简化了特定主题信息的识别，并帮助用户查找主题内容。从文本生成这些标识符有助于为未标记的注释创建标识符，或者根据用户的偏好向他们建议选项。在这个领域，有三种主要的方法：提取方法、分类方法和生成方法。提取方法将文本中的关键短语识别为标签或类别，但无法获得原始文本中不存在的关键短语。分类方法将此任务视为文本分类问题，然而，由于人工生成的标签的多样性和自由形式，这些可能产生次优结果。生成式方法直接根据输入文本生成标签/类别，然而，这些方法仅限于解决标签/类别生成任务。在NoteLLM中，LLM执行多任务学习，同时执行I2I推荐和标签/类别生成。由于这两个任务的相似性，学习生成标签/类别也可以增强I2I推荐。

笔记压缩提示

我们使用统一的笔记压缩提示来促进I2I推荐和生成任务。为了在I2I推荐任务中利用自回归LLM的生成能力，我们的目标是将笔记内容浓缩为单个特殊令牌。然后使用这个浓缩的特殊令牌来通过GCL获取协作知识。随后，我们通过CSFT使用这些知识生成标签/类别。

我们提出以下提示模板用于一般注释压缩和标签/类别生成：

在此模板中，[BOS]、[EMB]和[EOS]是特殊的令牌，而<Instruction>、<Input Note>、<Output Guidance>和<Output>是被特定内容替换的占位符。类别生成的具体内容定义如下：

考虑到用户生成的标签数量的不可预测性，我们随机选择原始标签的一个子集作为标签生成的输出目标，以尽量减少对llm的潜在误导。将随机选择的hashtag的个数记为<j>，合并到<Instruction>和<Output Guidance>中。

完成提示后，将对其进行标记并输入到LLM中。然后，LLM将协作信号和关键语义信息提取到压缩的单词中，并根据笔记的中心思想生成标签/类别。

生成-对比学习

预训练的LLM通常通过指令微调或基于人类反馈的强化学习来学习新知识。然而，仅仅依靠LLM中的语义信息是不足以完成推荐任务的。协作信号在LLM中是不存在的，它在识别用户特别感兴趣的笔记方面起着至关重要的作用。我们使用GCL让LLM捕捉更强的协作信号。与从具体答案或奖励模式中学习不同，GCL采用对比学习，从整体角度学习笔记之间的关系接近性。

为了将协作信号整合到LLM中，我们采用了基于用户行为的共现机制来构建相关的笔记对。这种机制是基于这样的假设：经常一起读的笔记可能是相关的。因此，我们收集一周内的用户行为数据进行共现计数。我们统计用户查看笔记?变量并随后点击笔记?变量的次数。同时，为了区分不同用户对共现的贡献，我们为不同的点击分配了不同的权重。具体来说，我们计算共现得分如下：

这个操作的目的是防止活跃用户被误导，他们可能会不加选择地点击推荐给他们的每一个笔记。在计算了所有笔记对的共现分数之后，我们构建了从笔记?<e:1>到所有其他笔记的共现分数S?<e:1>。接下来，我们从S?表中过滤出协同得分高于?或低于阈值?的异常值。最后，我们从过滤集中选择共现分数最高的?笔记作为笔记?的相关笔记。

在构建相关笔记对后，我们训练NoteLLM基于文本语义和协作信号来确定笔记的相关性。我们利用提示压缩笔记信息来生成一个虚拟词。压缩后的虚拟词的最后一个隐藏状态包含给定笔记的语义信息和协同信号，可以表示该笔记。由于LLM的自回归性质，我们采用[EMB]的前一个令牌的最后一个隐藏状态，并使用线性层将其转换为注意嵌入空间，其维度为?。我们将嵌入的数据(?)表示为<e:1>。我们假设每个小批量包含与变量变量相关的变量对，因此每个小批量总共有2个变量变量。GCL的损失计算如下：

协同监督微调

生成标签/类别类似于生成注释嵌入。这两项任务都旨在总结笔记内容。生成标签/类别的任务从文本生成的角度提取关键的笔记信息，而生成笔记嵌入的任务从协作的角度将笔记压缩到虚拟单词中，以供I2I推荐。为此，我们的NoteLLM联合建模了GCL和CSFT任务，以潜在地提高嵌入的质量。我们将这两个任务集成到一个提示中，为这两个任务提供额外的信息，并简化训练过程。

我们采用CSFT，它利用笔记的语义内容和压缩令牌中的协作信号来生成标签/类别。为了提高训练效率和防止遗忘问题，我们从每批笔记中选择?笔记用于标签生成任务，而将剩余的笔记分配给类别生成任务。我们计算CSFT损失如下:

最后，我们定义了NoteLLM的损失函数，同时纳入GCL和CSFT，如下：

通过模型更新，NoteLLM能够同时执行I2I推荐任务和笔记推荐场景的标签/类别生成任务。