我要投稿

从0-1构建一个RAG（检索增强）系统

发布日期：2024-08-03 22:07:23 浏览次数： 1964 来源：AI研习所

昨日，Openai 推出Searchgpt,将 AI 与实时网络信息结合提供生成式UI结果.其背后的技术就是RAG. RAG（Retrieve Augment Generation，检索增强）是“驯服”大语言模型的主要手段之一。它允许大语言模型在从固定的数据库中抽取相关内容的基础上生成答案，从而限制随意发挥，提升答案的可靠性。

核心组件：

RAG(检索增强生成)系统的核心组件主要包括以下三个部分:

检索(Retrieval)组件:负责从外部数据源或知识库中获取与用户查询相关的信息。包括对输入查询的理解和解析,以及使用索引和检索算法从文本数据中提取相关内容。检索的质量和效率直接影响生成文本的准确性和相关性。

增强(Augmentation)组件:处理检索到的信息,将其与原始查询结合,形成丰富的上下文。可能涉及数据清洗、分块和使用嵌入模型等优化技术。目的是为生成模型提供更全面、准确的信息基础。

生成(Generation)组件:通常是一个大型语言模型(LLM)。利用检索和增强阶段提供的信息作为上下文。生成符合用户需求的自然语言文本或回答。

检索组件首先从知识库中获取相关信息。增强组件处理和整合这些信息。生成组件最后利用这些增强的信息来生成最终的输出。RAG系统的优势在于它结合了信息检索的准确性和自然语言生成的灵活性,能够提供更准确、相关和知情的回答,特别是在处理需要最新或专门知识的查询时。

构建过程：

文档处理

开发 RAG 系统的第一步是准备文档。这些文档将作为系统的基础数据。

文本提取

接下来，使用 OCR（光学字符识别）模型处理文档。如果需要，该模型可以从图像中提取文本。

文本分块

将提取的文本分解为更小、更易管理的部分。这种分块处理有助于提高后续处理和分析的效率。

嵌入模型

将每个文本块通过嵌入模型转换为向量。这些向量是捕捉文本语义含义的数字表示。

向量存储

将生成的向量存储在一个向量数据库中。这个数据库使系统能够根据语义相似性高效地检索相关信息。

用户输入问题

用户通过系统输入问题。这个问题将用于从向量数据库中检索最相关的信息。

问题嵌入

将用户输入的问题使用相同的嵌入模型进行处理，确保问题和文本块都在同一个向量空间中。

向量匹配

系统根据相似性将嵌入的问题与数据库中的向量进行匹配，并检索出最相似的文本块。

信息处理

系统根据相似度得分检索最相关的文档。然后，LLM（大语言模型）处理这些相关信息，生成对用户问题的详细回答。

最终答案

最终答案呈现给用户。这些答案是从检索到的文档中最相关的信息生成的，确保了准确性和相关性。

优势与挑战

优势

提高准确性：通过结合外部知识库的信息，RAG能够提供更准确和相关的答案。
增强可解释性：由于生成答案时参考了具体的上下文信息，因此答案的可解释性也得到了提升。
解决知识局限性：RAG弥补了大语言模型在专业领域知识理解和最新知识掌握方面的不足。

挑战

计算资源需求高：大规模的知识库检索和信息整合需要大量的计算资源。
实时性问题：对于需要快速响应的应用场景，RAG可能面临延迟的问题。

总之，RAG技术通过结合检索和生成两大关键技术，为自然语言处理领域带来了革命性的进步，并在多个应用场景中展现了卓越的潜力。随着技术的不断发展，RAG有望在未来发挥更大的作用。

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费场景POC验证，效果验证后签署服务协议。零风险落地应用大模型，已交付160+中大型企业

160+中大型企业正在使用53AI

立即咨询预约演示

百度智能云邀53AI：共创AI新纪元，启航智能新时代

2024-05-27

钉钉恒星计划：53AI与百余位企业家及钉钉生态伙伴，共议“AI 浪潮下的新机遇”

2024-05-22

热点资讯

GraphRAG+Ollama 本地部署，保姆教程，踩坑无数，闭坑大法

2024-07-18

一文彻底搞懂大模型 - RAG（检索、增强、生成）

2024-09-04

RAGFlow：基于OCR和文档解析的下一代 RAG 引擎

2024-05-05

RAG框架，都在这了!

2024-06-20

基于Llama 3 构建RAG语音助手：将本地 RAG 与 Qdrant、Whisper 和 LangChain 集成

2024-05-19

微软开源的GraphRAG解读

2024-07-09

深入解析 Graph RAG：提升语言模型问答能力的创新策略

2024-07-09

RAG 高效应用指南：Embedding 模型的选择和微调

2024-06-13

Prompt工程师必备：复旦重磅 | 最佳RAG实践长什么样的？

2024-07-07

下一代 RAG 技术来了！微软正式开源 GraphRAG：大模型行业将迎来新的升级？

2024-07-07

大家都在问

哈啰：构建智能出行RAG，ES还是向量数据库？

2025-01-13

RAG的技术困境：为何单纯依赖向量嵌入不可靠？

2025-01-09

搭建RAG架构，如何选择向量数据库产品？

2025-01-09

搭建RAG应用，Embedding模型如何选？

2025-01-09

RAG成为过去式？缓存增强生成（CAG）is All You Need？

2025-01-06

检索增强生成和思维链结合: 如何创建检索增强思维链 (RAT)？

2025-01-04

Zilliz落地垂直RAG：为什么说医疗场景中，LLM只是半成品？

2024-12-30

影响RAG检索效果的原因有那些？

2024-12-27

开箱即用的企业大模型应用平台

工作+AI

业务+AI

AIx业务

大模型咨询

大模型定制

核心组件：

构建过程：

文档处理

文本提取

文本分块

嵌入模型

向量存储

用户输入问题

问题嵌入

向量匹配

信息处理

最终答案

优势与挑战

优势

挑战

相关资讯

160+中大型企业正在使用53AI

百度智能云邀53AI：共创AI新纪元，启航智能新时代

钉钉恒星计划：53AI与百余位企业家及钉钉生态伙伴，共议“AI 浪潮下的新机遇”

热点资讯

GraphRAG+Ollama 本地部署，保姆教程，踩坑无数，闭坑大法

一文彻底搞懂大模型 - RAG（检索、增强、生成）

RAGFlow：基于OCR和文档解析的下一代 RAG 引擎

RAG框架，都在这了!

基于Llama 3 构建RAG语音助手：将本地 RAG 与 Qdrant、Whisper 和 LangChain 集成

微软开源的GraphRAG解读

深入解析 Graph RAG：提升语言模型问答能力的创新策略

RAG 高效应用指南：Embedding 模型的选择和微调

Prompt工程师必备：复旦重磅 | 最佳RAG实践长什么样的？

下一代 RAG 技术来了！微软正式开源 GraphRAG：大模型行业将迎来新的升级？

大家都在问

哈啰：构建智能出行RAG，ES还是向量数据库？

RAG的技术困境：为何单纯依赖向量嵌入不可靠？

搭建RAG架构，如何选择向量数据库产品？

搭建RAG应用，Embedding模型如何选？

RAG成为过去式？缓存增强生成（CAG）is All You Need？

检索增强生成 和思维链 结合: 如何创建检索增强思维链 (RAT)？

Zilliz落地垂直RAG：为什么说医疗场景中，LLM只是半成品？

影响RAG检索效果的原因有那些？

热门标签

检索增强生成和思维链结合: 如何创建检索增强思维链 (RAT)？