Retrieval-Augmented Generation

检索（Retrieval）

生成（Generation）

增强（Augmentation）

Composition

数据收集是构建档案知识库的第一步。在收集数据阶段，RAG系统需要注意以下问题：确保收集的数据是高质量的，没有错误、偏见或不准确的信息。数据质量直接影响系统生成答案结果的准确性。

收集到的原始数据往往包含噪声和不规范性，需要进行预处理以提高数据质量。数据清洗工作量大，需要借助数据处理工具和大量人工参与。同样，数据预处理质量非常关键，严重影响后续大模型的问答效果。

将档案长文本切分成适合模型处理的小块，同时保证每个文本块的语义独立性和完整性。在处理档案数据时，根据文本的结构和内容特性来制定切分规则尤为重要。切分点应当尽可能地尊重自然语言中的语义单位，如句子、段落或意群。确保每个片段在语义上是完整的，避免将一个意群切割成两个部分，造成档案信息的丢失或不连贯。

向量数据库的构建是检索模块的基础。在这个过程中，我们需要将档案知识库中的所有文本块转换为向量表示。这一步通常需要选择一个合适的向量化模型，例如bge-large、bce或text2vec等，用来将文本块转换为固定维度的向量表示，再将其存储在向量数据库中，以便后续的检索操作。

检索算法的选择是决定检索模块性能的关键。常见的检索算法包括BM25、TF-IDF和混合检索算法等。这些算法各有特点，例如BM25算法能够根据文档的长度对检索结果进行加权，TF-IDF算法则能够根据词频和文档频率对检索结果进行加权。

查询重构旨在提升检索效果。用户提出的原始查询可能包含一些模糊或不精确的信息，查询重构的目的就是通过扩展用户问题的语义，使其更加精确，或者与知识库中切分的文本长度对齐，从而提高检索的相关性。

向量数据库与向量化的查询文本进行相似度计算匹配，可能会返回多个候选答案，需要将这些候选答案按照相似度进行重排序，以选出最靠前的几个答案。

将排序后最靠前的几个结果输入给LLM，让其利用生成能力根据用户问题生成答案。可能涉及多种优化方法，如端到端微调或对比学习等。

Effects

硬件配置

软件配置

系统测试结果（3倍速录屏）：

Epilogue