深度长文｜DeepSeek R1 的 RAG 检索之谜：为何“推理大师”不擅长 Embedding？

在人工智能的浩瀚星空中，检索增强生成（RAG）系统正以其独特的魅力，成为连接语言模型与外部知识的桥梁。它不仅能让 AI 拥有更广阔的知识储备，还能有效减少“幻觉”，提升回答的准确性和可靠性。然而，构建一个高效的 RAG 系统并非易事，每一个环节都如同解谜游戏中的关键线索，环环相扣，缺一不可。

DeepSeek R1，作为一款拥有 6710 亿参数的混合专家模型（MoE），凭借其强大的推理能力，在数学解题和代码生成等领域大放异彩。然而，当它被应用于 RAG 系统时，却暴露出一个令人意外的短板——不擅长 Embedding。这不禁让人产生疑问：为何这位“推理大师”在 RAG 的检索环节却表现平平？这背后又隐藏着怎样的技术逻辑？

检索“短板”：DeepSeek R1 的 Embedding 困境

要理解 DeepSeek R1 的 Embedding 困境，我们需要从它的“基因”说起。DeepSeek R1 的训练目标主要集中在逻辑推理和文本生成，它被设计成一个善于思考和表达的“大脑”，而非一个精于记忆和检索的“图书馆”。这种训练目标的差异，导致 DeepSeek R1 在语义空间的精准映射方面存在先天不足。

正如一位资深 AI 工程师所言：“不同的模型有着不同的天赋，让擅长推理的模型去做 Embedding，就像让一位短跑运动员去跑马拉松，并非不能完成，但绝非最佳选择。”

那么，DeepSeek R1 的 Embedding 究竟差在哪里呢？数据是最好的“照妖镜”。在 RAG 这项核心任务之外，我们考察 DeepSeek R1 在其他 Embedding 相关任务中的表现，可以更全面地了解它的能力边界。

还记得几个月前，我在研究文本分类任务时，偶然发现了一个有趣的现象：DeepSeek R1 在这个任务上的表现，竟然不如一些专门的 Embedding 模型。当时我感到非常困惑，因为 DeepSeek R1 在我心目中一直是一位“全能选手”，拥有着强大的推理能力和广泛的知识储备。我甚至开始怀疑，是不是我的测试方法出了问题？

经过一番深入挖掘，我发现这并非个例，而是一种普遍存在的现象。在文本分类任务中，DeepSeek R1 的平均 F1-score 为 88.3%，而专门的 Embedding 模型 text-embedding-3-large 则高达 92.7%。在情感分析和主题分类等子任务中，DeepSeek R1 的表现也均落后于 Qwen2 等模型。这些数据都来自于权威的 MTEB（Massive Text Embedding Benchmark）排行榜^[1]，该排行榜是评估文本 Embedding 模型综合性能的重要参考。

为了更清晰地展示 DeepSeek R1 在不同任务上的表现，我们可以参考 MTEB 排行榜上的数据，并进行简单的对比：

更令人惊讶的是，当处理低资源语言时，DeepSeek R1 的 Embedding 能力更是捉襟见肘。在斯瓦希里语新闻分类任务中，DeepSeek R1 的 F1-score 仅为 62.1%，远低于 multilingual-MiniLM 的 75.3%。这意味着，DeepSeek R1 在理解和处理不同语言的细微差别方面存在明显的短板。

这些数据都指向一个结论：DeepSeek R1 并非全能选手，它在 Embedding 方面存在着无法忽视的局限性。 也许，我们对这位“推理大师”的期望过高了。

Embedding “选秀”：RAG 检索器的挑选标准

既然 DeepSeek R1 不擅长 Embedding，那么在构建 RAG 系统时，我们应该如何挑选合适的检索器呢？这就好比参加一场“Embedding 选秀”，我们需要明确评判标准，才能选出最适合 RAG 系统的“最佳检索器”。

RAG 检索的核心需求是什么？是关键词匹配吗？当然不是。RAG 检索的本质在于对用户 Query 语义的精准理解和相关文档的深度挖掘。它需要检索器能够像一位经验丰富的图书管理员，不仅知道书名和作者，还能理解书中的内容和主题，从而为用户找到真正有价值的信息。

那么，如何评估一个 Embedding 模型是否具备这种能力呢？MTEB（Massive Text Embedding Benchmark）排行榜无疑是一个重要的参考指标。MTEB 作为一个权威的文本 Embedding 模型评估基准，通过 58 个数据集覆盖 8 大类任务，为我们提供了一个多维度的量化标准。

为了更好地理解 MTEB 的评估体系，我们可以用一个 Mermaid 图来展示其核心任务类别：

MTEB 采用分层次评测框架，其核心任务类别包括：语义相似度、分类任务、聚类分析和检索任务。

MTEB 真的完美无缺吗？当然不是。MTEB 的一个主要局限在于，它无法完全代表真实世界的 RAG 应用场景。 例如，MTEB 缺乏对长文本处理能力的评估，而这对于处理法律、金融等领域的长篇文档至关重要。此外，MTEB 的数据集也可能存在领域偏差，无法全面评估模型在各个领域的适应性。正如 这篇关于 MTEB 局限性的讨论^[2] 中提到的，MTEB 的评估结果可能与实际应用效果存在一定的偏差。

我们该如何应对 MTEB 的这些局限性呢？一种方法是结合实际应用场景，构建更具针对性的评估指标。 例如，在金融风控场景中，我们可以关注模型对财报术语的召回率；在医疗领域，我们可以关注模型对医学文献的理解能力。

尽管存在一些局限性，MTEB 仍然是我们在“Embedding 选秀”中不可或缺的“风向标”。通过 MTEB 排行榜^[3]，我们可以了解不同 Embedding 模型在语义相似度、文本分类、聚类分析等任务上的表现，从而为 RAG 检索器的选择提供重要依据。

在 MTEB 排行榜上，Qwen2 系列模型凭借其卓越的性能，赢得了广泛的关注。Qwen2-72B 在多语言检索任务中表现出色，其在 XTREME 基准测试中的 MRR@10 达到了 0.84。此外，Qwen2 在长文档处理方面也展现出强大的实力，其在 RULER 长文本评估中的评分高达 93.1，超越了 GPT-4。

当然，数据只是参考，实际应用才是检验真理的唯一标准。为了更直观地了解不同 Embedding 模型在 RAG 系统中的效果，我们需要进行“实战演练”，通过实际 RAG 系统应用案例，对比不同 Embedding 模型在真实场景下的检索效果。

“扬长避短”：DeepSeek R1 的 RAG 正确打开方式

既然 DeepSeek R1 在 Embedding 方面存在短板，那么它在 RAG 系统中是否就一无是处了呢？当然不是。正如一位资深的 AI 架构师所说：“没有‘万金油’的模型，只有放对位置的‘螺丝钉’。”

DeepSeek R1 最大的优势在于其强大的推理和生成能力。它擅长从多个检索结果中提取关键信息，进行逻辑推理和知识整合，最终生成高质量、逻辑严密的回答。换句话说，DeepSeek R1 是一位优秀的“总结者”和“思考者”，而非一位高效的“检索者”。

因此，在 RAG 系统中，我们应该将 DeepSeek R1 放在最适合它的位置——生成环节。让它充分发挥其 Chain-of-Thought 特性，像一位经验丰富的专家一样，对检索结果进行深入分析，并给出有价值的建议。

结语：RAG 系统，没有“万金油”，只有“最佳拍档”

构建一个高效、可靠的 RAG 系统，就像组建一支优秀的团队，需要深入理解每个成员的特点，并进行合理分工和优化，才能实现最佳效果。DeepSeek R1 是一位优秀的“思考者”，Qwen2 是一位高效的“检索者”，只有将它们完美结合，才能构建出真正强大的 RAG 系统。

RAG 技术的未来发展趋势又将如何演变？是端到端训练，还是知识图谱融合？或许，未来的 RAG 系统将更加智能化、个性化，能够根据用户的需求动态调整检索和生成策略。但无论技术如何发展，对每个模型的特点进行深入理解，并进行合理分工和优化，永远是构建高效 RAG 系统的关键。

在 SkyPilot Blog 上，Kaiyuan Eric Chen 也分享了使用 DeepSeek R1 构建 RAG 系统的经验^[4]，并总结了在实践中的一些注意事项。他们的研究也印证了本文的观点：DeepSeek R1 擅长生成，但不擅长 Embedding，在 RAG 系统中应该扬长避短，与其他模型配合使用。

面对 RAG 这项复杂的系统工程，我们既要仰望星空，也要脚踏实地。 既要关注前沿技术的突破，也要重视实际应用中的细节。只有这样，才能真正打造出能够解决实际问题的 RAG 系统，让 AI 更好地服务于人类社会。

拓展阅读：RAG 系统的优化技巧

除了选择合适的 Embedding 模型和生成模型外，还有许多其他的技巧可以用来优化 RAG 系统的性能，例如：

• 动态分块优化： 根据不同的任务类型，选择合适的分块大小，可以提高检索效率和准确性。
• 混合检索架构： 结合稀疏检索和稠密检索的优点，可以提升长尾查询的表现。
• 硬件加速： 使用 GPU 或其他专用硬件加速 Embedding 计算和模型推理，可以降低响应延迟。

RAG 技术的未来充满着无限可能，让我们拭目以待！