RAG 很多人都听说过，或者实践过，目前最直接的应用就是构建智能问答系统。

什么是 RAG？

RAG 是 Retrieval Augmented Generation 的简写，翻译过来就是检索增强生成。

为什么需要用到 RAG 呢？

大模型"幻觉"的问题一直存在，RAG 是缓解其幻觉的一个很重要的途径，当然还有其他缓解的方式,SFT 这些。

如果还有其他的，下面评论区留言哈，大家一起探讨。

那么现在有多少开源框架可以很方便的做这个事情呢？

是否需要重复造轮子呢？

这是个好问题。

所以总结下目前都有哪些开源的 RAG 框架，看下是否满足开发需要，就是一个蛮有必要的事情。

这里总结一些 RAG 框架，有其他的可以评论区留言。

框架一：LangChain

LangChain 是一个用于开发由大型语言模型 (LLMs) 驱动的应用程序的框架。

项目地址：https://github.com/langchain-ai/langchain

目前已获得 86.2k starts 关注，众人关注。

现在市面上有很多人用 LangChain 结合 LLM 构造 RAG 流程，因为 Langchain 里面包含了各种组件，向量检索、文本分割、大模型调用，还有很多其他的都在里面。

这里有一份 LangChain RAG 的教资料，可收藏：https://python.langchain.com/v0.2/docs/tutorials/rag/

框架二：Langchain-Chatchat

一种利用 langchain 思想实现的基于本地知识库的问答应用，目标期望建立一套对中文场景与开源模型支持友好、可离线运行的知识库问答解决方案。

项目地址：https://github.com/chatchat-space/Langchain-Chatchat

目前已收获 28.7k 关注。

这是项目的流程框架。

这里是一份框架的文档： https://github.com/chatchat-space/Langchain-Chatchat/wiki/

框架三：QAnything

QAnything (Question and Answer based on Anything) 是致力于支持任意格式文件或数据库的本地知识库问答系统，可断网安装使用。

目前已支持格式: PDF(pdf)，Word(docx)，PPT(pptx)，XLS(xlsx)，Markdown(md)，电子邮件(eml)，TXT(txt)，图片(jpg，jpeg，png)，CSV(csv)，网页链接(html)

项目地址： https://github.com/netease-youdao/QAnything/tree/master

网易出品，目前已收获 9.9k 关注。

架构如下

有个很重要的关键点；两阶段检索

知识库数据量大的场景下两阶段优势非常明显，如果只用一阶段 embedding 检索，随着数据量增大会出现检索退化的问题，如下图中绿线所示，二阶段 rerank 重排后能实现准确率稳定增长，即数据越多，效果越好。

这是文档：https://qanything.ai/docs/introduce

框架四：RAGFlow

RAGFlow 是一款基于深度文档理解构建的开源 RAG（Retrieval-Augmented Generation）引擎。RAGFlow 可以为各种规模的企业及个人提供一套精简的 RAG 工作流程，结合大语言模型（LLM）针对用户各类不同的复杂格式数据提供可靠的问答以及有理有据的引用。

项目地址： https://github.com/infiniflow/ragflow/tree/main

目前已收获 8.8k 关注

系统架构

这是文档：https://ragflow.io/docs/dev/

框架五：FastGPT

FastGPT 是一个基于 LLM 大语言模型的知识库问答系统，提供开箱即用的数据处理、模型调用等能力。同时可以通过 Flow 可视化进行工作流编排，从而实现复杂的问答场景！

项目地址：https://github.com/labring/FastGPT

目前项目已收获 14.2k 关注。

介绍文档：https://doc.fastgpt.in/docs/intro/

框架六：Haystack

Haystack 是一个端到端 LLM 框架，允许构建由 LLMs、Transformer 模型、矢量搜索等支持的应用程序。无论想要执行检索增强生成 (RAG)、文档搜索、问答还是答案生成，Haystack 都可以将最先进的嵌入模型和 LLMs 编排到管道中，以构建端到端结束 NLP 应用程序并解决案例。

项目地址：https://github.com/deepset-ai/haystack

目前已收获 14.2k 关注。

这是文档：https://docs.haystack.deepset.ai/v2.0/docs/get_started

框架七：LLAMA_Index

LlamaIndex 是一个用于构建上下文增强 LLM 应用程序的框架,上下文增强是指在您的私有或特定于域的数据之上应用 LLMs 的任何用例。

项目地址：https://github.com/run-llama/llama_index

目前已有 32.4k 关注。

文档，内容很全，可收藏: https://docs.llamaindex.ai/en/stable/