我要投稿

RAG智能问答系统为什么要使用混合检索？（完整版）

发布日期：2024-07-30 08:23:01 浏览次数： 2115 来源：产品言语

有读者反馈之前写的内容没有写完，本篇对之前写的内容进行补充和完善。

检索增强生成简称RAG（Retrieval-augmented Generation），RAG为大语言模型安装了知识外挂，基础大语言模型不用训练，通过RAG技术与大语言模型结合在回答问题的时候，可以通过企业内部的知识库检索相关和最新的信息来生成内容，从而提高了回答问题的准确性、实时性和关联性。

—

为什么要用混合检索？

基于语义的向量检索

在RAG智能问答系统中，RAG检索环节中的检索的方式采用向量检索，即通过语义相关度匹配的方式进行检索。

技术原理是通过将外部的知识库文档进行拆分成语义完整的段落或者句子，并将其转化为向量存储，而对用户的问题也同样进行向量化，然后通过用户问题与句子之间的语义相关性，查找出相关度最高的文本，找到后RAG系统会将用户的问题、相关内容一起提供给大模型，大语言模型推理出问题的答案。

向量检索除了能够实现复杂语义的文本查找，还有其他优势：

容错性：处理模糊描述、拼写错误；
多模态理解：支持文本、图像、音视频等相似匹配；
多语言理解：跨语言理解，如输入中文匹配英文；
相似语义理解；

向量检索在某些情况下效果不佳，如：

搜索一个人或者一个物体的名字；
搜索缩写词或者短语；
搜索ID等场景而这些场景恰恰是传统关键词搜索的优势所在，传统的关键词搜索的优势在于精准搜索、少量字符匹配等方面。

关键词检索极其局限性

在信息检索的场景，“传统”方式是通过关键词搜索，大致过程为：

对原始内容进行关键词提取；
建立关键词和原始语料的映射关系，常见的方法有倒序索引、TF-IDF、BM25等方法，其中TF-IDF、BM25通常用“稀疏向量（Sparse Vector）”来表示词频。
检索时，对检索语句进行关键词抽取，并通过建立的映射关系召回关联度最高的TopK原始语料。

关键词检索无法对语义进行理解，例如，检索词为“北大医院”，经过分词以后成为“北大”“医院”，这两个关键词都无法有效检索用户的预期目标“北京大学第一医院”这个目标。

在文本搜索场景，首先需要确保最相关的结果能够出现在检索的结果中。向量检索和关键词检索各有优势，而引入混合检索结合了两种搜索技术的优点，并且弥补了各自的缺点。

—

什么是混合检索？

混合检索是结合了两种或者多种搜索算法提高搜索结果相关性的搜索技术。而在RAG系统中，混合搜索最常见指向量检索和关键词检索的组合。

不同的检索系统在寻找文本中各自擅长之间存在不同的联系，没有任何一种检索模式能够适用全部的情景，混合检索通过多个不同的检索系统组合，结合不同检索系统的优势，实现多个检索技术直接的互补。

—

产品电源

对目前行业中其他产品基于RAG的问答系统的检索方式进行调研。

Coze

混合检索：结合全文检索与语义检索的优势，并对结果进行综合排序；
语义检索：基于向量的文本相关性查询，推荐在需要理解语义关联度和跨语言查询的场景使用；
全文检索：依赖于关键词的全文搜索，推荐在搜索具有特定名称、缩写词、短语或ID的场景使用；

betteryeah

混合查询：使用语义和关键词综合查询，效果更好；
关键词查询：精准查询，通过人名、地名等查询具体内容；
语义查询：适合通过描述、问题查询相似答案；

Azure AI搜索

全文搜索：信息检索中与索引中存储的纯文本匹配；
矢量搜索：存储内容的数字表示形式来执行搜索；
混合搜索：全文搜索和矢量搜索的结合；

总结：

基于文档和知识库的RAG问答系统，在调研的产品中，通常会支持混合检索、向量检索和全文检索。作为平台用户可以选择使用哪种检索方式；
混合检索结合全文检索和向量检索的的优势，对召回的结果进行综合排序，让大模型生成的结果更好，也是各个平台优先推荐的；

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费场景POC验证，效果验证后签署服务协议。零风险落地应用大模型，已交付160+中大型企业

160+中大型企业正在使用53AI

立即咨询预约演示

百度智能云邀53AI：共创AI新纪元，启航智能新时代

2024-05-27

钉钉恒星计划：53AI与百余位企业家及钉钉生态伙伴，共议“AI 浪潮下的新机遇”

2024-05-22

热点资讯

GraphRAG+Ollama 本地部署，保姆教程，踩坑无数，闭坑大法

2024-07-18

一文彻底搞懂大模型 - RAG（检索、增强、生成）

2024-09-04

RAGFlow：基于OCR和文档解析的下一代 RAG 引擎

2024-05-05

RAG框架，都在这了!

2024-06-20

基于Llama 3 构建RAG语音助手：将本地 RAG 与 Qdrant、Whisper 和 LangChain 集成

2024-05-19

微软开源的GraphRAG解读

2024-07-09

深入解析 Graph RAG：提升语言模型问答能力的创新策略

2024-07-09

RAG 高效应用指南：Embedding 模型的选择和微调

2024-06-13

Prompt工程师必备：复旦重磅 | 最佳RAG实践长什么样的？

2024-07-07

下一代 RAG 技术来了！微软正式开源 GraphRAG：大模型行业将迎来新的升级？

2024-07-07

大家都在问

哈啰：构建智能出行RAG，ES还是向量数据库？

2025-01-13

RAG的技术困境：为何单纯依赖向量嵌入不可靠？

2025-01-09

搭建RAG架构，如何选择向量数据库产品？

2025-01-09

搭建RAG应用，Embedding模型如何选？

2025-01-09

RAG成为过去式？缓存增强生成（CAG）is All You Need？

2025-01-06

检索增强生成和思维链结合: 如何创建检索增强思维链 (RAT)？

2025-01-04

Zilliz落地垂直RAG：为什么说医疗场景中，LLM只是半成品？

2024-12-30

影响RAG检索效果的原因有那些？

2024-12-27

开箱即用的企业大模型应用平台

工作+AI

业务+AI

AIx业务

大模型咨询

大模型定制

基于语义的向量检索

关键词检索极其局限性

Coze

相关资讯

160+中大型企业正在使用53AI

百度智能云邀53AI：共创AI新纪元，启航智能新时代

钉钉恒星计划：53AI与百余位企业家及钉钉生态伙伴，共议“AI 浪潮下的新机遇”

热点资讯

GraphRAG+Ollama 本地部署，保姆教程，踩坑无数，闭坑大法

一文彻底搞懂大模型 - RAG（检索、增强、生成）

RAGFlow：基于OCR和文档解析的下一代 RAG 引擎

RAG框架，都在这了!

基于Llama 3 构建RAG语音助手：将本地 RAG 与 Qdrant、Whisper 和 LangChain 集成

微软开源的GraphRAG解读

深入解析 Graph RAG：提升语言模型问答能力的创新策略

RAG 高效应用指南：Embedding 模型的选择和微调

Prompt工程师必备：复旦重磅 | 最佳RAG实践长什么样的？

下一代 RAG 技术来了！微软正式开源 GraphRAG：大模型行业将迎来新的升级？

大家都在问

哈啰：构建智能出行RAG，ES还是向量数据库？

RAG的技术困境：为何单纯依赖向量嵌入不可靠？

搭建RAG架构，如何选择向量数据库产品？

搭建RAG应用，Embedding模型如何选？

RAG成为过去式？缓存增强生成（CAG）is All You Need？

检索增强生成和思维链结合: 如何创建检索增强思维链 (RAT)？

Zilliz落地垂直RAG：为什么说医疗场景中，LLM只是半成品？

影响RAG检索效果的原因有那些？

热门标签

开箱即用的企业大模型应用平台

工作+AI

业务+AI

AIx业务

大模型咨询

大模型定制

基于语义的向量检索

关键词检索极其局限性

Coze

相关资讯

160+中大型企业正在使用53AI

百度智能云邀53AI：共创AI新纪元，启航智能新时代

钉钉恒星计划：53AI与百余位企业家及钉钉生态伙伴，共议“AI 浪潮下的新机遇”

热点资讯

GraphRAG+Ollama 本地部署，保姆教程，踩坑无数，闭坑大法

一文彻底搞懂大模型 - RAG（检索、增强、生成）

RAGFlow：基于OCR和文档解析的下一代 RAG 引擎

RAG框架，都在这了!

基于Llama 3 构建RAG语音助手：将本地 RAG 与 Qdrant、Whisper 和 LangChain 集成

微软开源的GraphRAG解读

深入解析 Graph RAG：提升语言模型问答能力的创新策略

RAG 高效应用指南：Embedding 模型的选择和微调

Prompt工程师必备：复旦重磅 | 最佳RAG实践长什么样的？

下一代 RAG 技术来了！微软正式开源 GraphRAG：大模型行业将迎来新的升级？

大家都在问

哈啰：构建智能出行RAG，ES还是向量数据库？

RAG的技术困境：为何单纯依赖向量嵌入不可靠？

搭建RAG架构，如何选择向量数据库产品？

搭建RAG应用，Embedding模型如何选？

RAG成为过去式？缓存增强生成（CAG）is All You Need？

检索增强生成 和思维链 结合: 如何创建检索增强思维链 (RAT)？

Zilliz落地垂直RAG：为什么说医疗场景中，LLM只是半成品？

影响RAG检索效果的原因有那些？

热门标签

检索增强生成和思维链结合: 如何创建检索增强思维链 (RAT)？