文中根据如何利用检索模块增强生成模块的方式，将RAG分为4种范式。

图1：RAG分类

    利用用户query检索得到相关文档，将检索结果跟用户query拼接到一起作为生成模型的输入。这是利用外部检索知识显示指导生成模型的方式，也是目前RAG主流的范式。这种范式的兴起跟生成模型能力不断提升有非常大的关系，尤其是到了大模型的时代，由于大模型的能力相当强大，所以只要直接将外部知识跟其他输入一起喂给大模型，大模型自身就可以处理这些信息并生成合适的回复，简单粗暴且效果不错。‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍

    利用用户query检索得到相关文档，并获取对应文档的向量表征，在生成模型生成阶段融入知识文档的表征信息。这是一种利用外部检索知识隐式指导生成模型的方式，生成模型会跟检索知识的向量表征进行交互，从而增强生成模型的理解能力跟生成文本的质量。最典型的就是FiD，这种范式在大模型时代前也曾一度流行，由于当时生成模型的能力不足，于是出现这种想在decoder阶段直接注入外部知识的方案，能够让检索枷锁更加直接地干预到生成结果。

    生成模型在decoder阶段计算下一个token的logit时，同时考虑生成预测的结果跟检索模块返回的信息。可以理解为将检索模块跟生成模块视作两个独立的链路，分别计算对应的下个token输出的logit值，再将两个链路的logit联合起来。最典型的就是knn-LM。

    利用检索模块来替代生成模块的方式，主要用于节省资源跟加速文本生成。可以理解为利用检索结果提供一段候选回复，让生成模型判断这段候选回复是否适合作为最终结果，适合的话就保留，不适合的话就从不适合的位置起进行截断，然后重复上述过程。最典型的就是REST。

图2：RAG增强方式

    用户query的质量会明显影响到检索模块的结果，可以通过query改写，数据增强等方式提升用户query的质量。

    f) meta-data filtering 利用某些属性对数据做进一步过滤

    c) finetune generator 对生成模型做进一步finetune使得生成模型更适配特定领域或者检索模块。‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍

    若生成模型的结果未能达到预期效果，还能对结果进一步修饰。这里文中提到的方法貌似不够全面，目前很火热的rethink或者refine都没有提及。

    b) iterative RAG 迭代RAG，反复调用检索-生成这个pipeline以获得更佳效果。