粤ICP备17114055号
微信扫码
添加专属顾问
支持私有云部署
我要投稿
今天分享一个英伟达的最新研究，属于是在长上下文阶段为RAG的一次辩护。因为随着长文本LLM的出现，这些模型能处理更长的文本序列，RAG似乎变得不那么重要了。
In Defense of RAG in the Era of Long-Context Language Models
检索增强生成（RAG）克服了早期LLMs中有限的上下文限制，过去一直是基于上下文的答案生成的可靠解决方案。最近，长上下文LLMs的出现使得模型能够包含更长的文本序列，这使得 RAG 的吸引力下降。最近的研究表明，长上下文LLMs在长上下文应用中显着优于 RAG。与现有的偏爱长语境LLM而不是 RAG 的研究不同，我们认为LLMs中的极长语境会导致对相关信息的关注度降低，并导致答案质量的潜在下降。本文重新审视长上下文答案生成中的 RAG。我们提出了一种顺序保留检索增强生成（OP-RAG）机制，该机制显着提高了 RAG 在长上下文问答应用中的性能。使用OP-RAG，随着检索块数量的增加，答案质量先上升，然后下降，形成倒U形曲线。与将整个上下文作为输入的长上下文LLM相比，OP-RAG 可以用更少的标记获得更高的答案质量。对公共基准的大量实验证明了我们的 OP-RAG 的优越性。
OP-RAG是个什么东西呢？
传统的RAG，检索与查询最相关的前k个文本块。按照相似度排序之后，按照一定的顺序放在大模型的prompt中。
与传统RAG将检索到的文本块按相关性降序排列不同，OP-RAG保持了这些文本块在原文中的顺序。也就是说，如果一个文本块在原文中出现在另一个文本块之前，那么在处理答案时，它也会被放在前面。
论文里做了一系列的实验，结果表明，OP-RAG在长文本问答任务中的表现比传统的RAG和长文本LLM都要好。特别是在使用Llama3.1-70B模型时，OP-RAG在只使用16K tokens的情况下，就达到了44.43的F1分数，而没有使用RAG的Llama3.1-70B，即使用了128K tokens，也只得到了34.32的F1分数。
53AI，企业落地大模型首选服务商
产品：场景落地咨询+大模型应用平台+行业解决方案
承诺：免费场景POC验证，效果验证后签署服务协议。零风险落地应用大模型，已交付160+中大型企业
2025-03-09
为什么RAG系统要拥抱向量检索？揭示关键字检索的致命弱点！
2025-03-09
不要盲目再使用DeepSeek R1和QWQ这些推理模型做RAG了
2025-03-07
r1-reasoning-rag：一种新的 RAG 思路
2025-03-05
提高企业 RAG 准确性的分步指南
2025-03-05
DeepSeek-R1 x Agentic RAG：构建带"深度思考"开关的知识研究助理｜深度长文
2025-03-05
通过Milvus内置Sparse-BM25算法进行全文检索并将混合检索应用于RAG系统
2025-03-05
本地部署DeepSeek R1 + Ollama + XRAG：三步搭建RAG系统，并解锁全流自动化评测
2025-03-05
Graph RAG 迎来记忆革命：“海马体”机制如何提升准确率？
2024-09-04
2024-10-27
2024-07-18
2024-05-05
2024-06-20
2024-06-13
2024-07-09
2024-07-09
2024-05-19
2024-07-07
2025-03-05
2025-03-03
2025-03-02
2025-02-28
2025-02-24
2025-02-23
2025-02-15
2025-02-12
回到顶部