我要投稿

从0-1构建一个RAG（检索增强）系统

发布日期：2024-08-03 22:07:23 浏览次数： 1668

昨日，Openai 推出Searchgpt,将 AI 与实时网络信息结合提供生成式UI结果.其背后的技术就是RAG. RAG（Retrieve Augment Generation，检索增强）是“驯服”大语言模型的主要手段之一。它允许大语言模型在从固定的数据库中抽取相关内容的基础上生成答案，从而限制随意发挥，提升答案的可靠性。

核心组件：

RAG(检索增强生成)系统的核心组件主要包括以下三个部分:

检索(Retrieval)组件:负责从外部数据源或知识库中获取与用户查询相关的信息。包括对输入查询的理解和解析,以及使用索引和检索算法从文本数据中提取相关内容。检索的质量和效率直接影响生成文本的准确性和相关性。

增强(Augmentation)组件:处理检索到的信息,将其与原始查询结合,形成丰富的上下文。可能涉及数据清洗、分块和使用嵌入模型等优化技术。目的是为生成模型提供更全面、准确的信息基础。

生成(Generation)组件:通常是一个大型语言模型(LLM)。利用检索和增强阶段提供的信息作为上下文。生成符合用户需求的自然语言文本或回答。

检索组件首先从知识库中获取相关信息。增强组件处理和整合这些信息。生成组件最后利用这些增强的信息来生成最终的输出。RAG系统的优势在于它结合了信息检索的准确性和自然语言生成的灵活性,能够提供更准确、相关和知情的回答,特别是在处理需要最新或专门知识的查询时。

构建过程：

文档处理

开发 RAG 系统的第一步是准备文档。这些文档将作为系统的基础数据。

文本提取

接下来，使用 OCR（光学字符识别）模型处理文档。如果需要，该模型可以从图像中提取文本。

文本分块

将提取的文本分解为更小、更易管理的部分。这种分块处理有助于提高后续处理和分析的效率。

嵌入模型

将每个文本块通过嵌入模型转换为向量。这些向量是捕捉文本语义含义的数字表示。

向量存储

将生成的向量存储在一个向量数据库中。这个数据库使系统能够根据语义相似性高效地检索相关信息。

用户输入问题

用户通过系统输入问题。这个问题将用于从向量数据库中检索最相关的信息。

问题嵌入

将用户输入的问题使用相同的嵌入模型进行处理，确保问题和文本块都在同一个向量空间中。

向量匹配

系统根据相似性将嵌入的问题与数据库中的向量进行匹配，并检索出最相似的文本块。

信息处理

系统根据相似度得分检索最相关的文档。然后，LLM（大语言模型）处理这些相关信息，生成对用户问题的详细回答。

最终答案

最终答案呈现给用户。这些答案是从检索到的文档中最相关的信息生成的，确保了准确性和相关性。

优势与挑战

优势

提高准确性：通过结合外部知识库的信息，RAG能够提供更准确和相关的答案。
增强可解释性：由于生成答案时参考了具体的上下文信息，因此答案的可解释性也得到了提升。
解决知识局限性：RAG弥补了大语言模型在专业领域知识理解和最新知识掌握方面的不足。

挑战

计算资源需求高：大规模的知识库检索和信息整合需要大量的计算资源。
实时性问题：对于需要快速响应的应用场景，RAG可能面临延迟的问题。

总之，RAG技术通过结合检索和生成两大关键技术，为自然语言处理领域带来了革命性的进步，并在多个应用场景中展现了卓越的潜力。随着技术的不断发展，RAG有望在未来发挥更大的作用。

53AI，企业落地应用大模型首选服务商

产品：大模型应用平台+智能体定制开发+落地咨询服务

承诺：先做场景POC验证，看到效果再签署服务协议。零风险落地应用大模型，已交付160+中大型企业

160+中大型企业正在使用53AI

立即咨询预约演示

百度智能云邀53AI：共创AI新纪元，启航智能新时代

2024-05-27

钉钉恒星计划：53AI与百余位企业家及钉钉生态伙伴，共议“AI 浪潮下的新机遇”

2024-05-22

热点资讯

GraphRAG+Ollama 本地部署，保姆教程，踩坑无数，闭坑大法

2024-07-18

GraphRAG：终极 RAG 引擎 - 语义搜索、嵌入、矢量搜索等等！

2024-07-08

微软开源的GraphRAG解读

2024-07-09

RAG框架，都在这了!

2024-06-20

RAGFlow：基于OCR和文档解析的下一代 RAG 引擎

2024-05-05

【文档智能 & RAG】RAG增强之路：增强PDF解析并结构化技术路线方案及思路

2024-07-09

RAG 高效应用指南：Embedding 模型的选择和微调

2024-06-13

下一代 RAG 技术来了！微软正式开源 GraphRAG：大模型行业将迎来新的升级？

2024-07-07

Prompt工程师必备：复旦重磅 | 最佳RAG实践长什么样的？

2024-07-07

源码解读 - 微软GraphRAG框架

2024-07-14

大家都在问

在长上下文LLM的时代，RAG是否仍然必要？

2024-09-20

大模型应用框架解析：RAG、Agent、微调、提示词工程究竟是什么?

2024-09-16

使用千帆完全免费的大模型，去构建Graph RAG，效果如何？

2024-09-12

RAG领域出现技术创新，或将引领AI搜索重大变革？

2024-09-11

大模型分不清 9.9 与 9.11 谁大，那 Embedding 模型呢？

2024-09-10

一文看懂GraphRAG与传统RAG的7大区别及融合方案，你会怎么选择？

2024-09-09

最近爆火的GraphRAG是什么，真的能用于商业应用吗？

2024-09-07

你的工作流程被 AI 颠覆了吗？

2024-09-04

开箱即用的企业大模型应用平台

工作+AI

业务+AI

AIx业务

大模型咨询

大模型定制

核心组件：

构建过程：

文档处理

文本提取

文本分块

嵌入模型

向量存储

用户输入问题

问题嵌入

向量匹配

信息处理

最终答案