我要投稿

一款无缝集成RAG的开源企业级检索器：Denser Retriever

发布日期：2024-05-31 05:20:10 浏览次数： 1884 来源：PaperAgent

检索器是大模型检索增强生成 (RAG) 框架的基石，在为人工智能应用程序提供准确、无缝的体验方面发挥着至关重要的作用。

Denser Retriever将多种搜索技术整合到一个平台中。它利用梯度提升 (xgboost)机器学习技术来结合：

基于关键字的搜索，重点在于精确获取查询中提到的内容。
矢量数据库非常适合查找大量可能相关的答案。
机器学习重新排序器可以对结果进行微调，以确保最相关的答案位于列表顶部。

Denser Retriever的初始版本提供以下功能。

支持关键字搜索、向量搜索、ML模型重排等异构检索器
利用xgboost ML技术有效地组合异构检索器
MTEB检索基准测试的最高准确度

在MTEB数据集上进行的实验表明，通过xgboost模型（表示为 ES+VS+RR_n）结合关键字搜索、向量搜索和重新排序器可以显著改善向量搜索（VS）基线。

演示如何使用Denser检索器为聊天机器人和语义搜索等端到端应用程序提供支持

端到端聊天应用程序

pip install poetrypoetry add git+https://github.com/denser-org/denser-retriever.git#mainpoetry run streamlit run examples/denser_chat.py

一旦启动，将看到一个类似于以下屏幕截图的聊天机器人界面。可以向聊天机器人提出任何问题并获得答复。下面显示了一个示例查询：“what use cases does denser support?”，检索器首先返回屏幕截图底部部分下列出的相关段落Sources。这些段落被输入到 LLM，最终的摘要显示在聊天窗口中。

端到端语义搜索应用程序

poetry run streamlit run examples/denser_search.py

启动后，将看到类似以下截图的搜索界面。可以输入任何查询，以及过滤器来搜索相关结果。下面显示了一个字段为的示例查询。输入“cumings”，检索器返回与指定过滤器值匹配的相关段落。

https://github.com/denser-org/denser-retrieverhttps://retriever.denser.ai/docs

53AI，企业落地应用大模型首选服务商

产品：大模型应用平台+智能体定制开发+落地咨询服务

承诺：先做场景POC验证，看到效果再签署服务协议。零风险落地应用大模型，已交付160+中大型企业

160+中大型企业正在使用53AI

立即咨询预约演示

百度智能云邀53AI：共创AI新纪元，启航智能新时代

2024-05-27

钉钉恒星计划：53AI与百余位企业家及钉钉生态伙伴，共议“AI 浪潮下的新机遇”

2024-05-22

热点资讯

GraphRAG+Ollama 本地部署，保姆教程，踩坑无数，闭坑大法

2024-07-18

RAGFlow：基于OCR和文档解析的下一代 RAG 引擎

2024-05-05

微软开源的GraphRAG解读

2024-07-09

深入解析 Graph RAG：提升语言模型问答能力的创新策略

2024-07-09

基于Llama 3 构建RAG语音助手：将本地 RAG 与 Qdrant、Whisper 和 LangChain 集成

2024-05-19

RAG框架，都在这了!

2024-06-20

Prompt工程师必备：复旦重磅 | 最佳RAG实践长什么样的？

2024-07-07

下一代 RAG 技术来了！微软正式开源 GraphRAG：大模型行业将迎来新的升级？

2024-07-07

GraphRAG：终极 RAG 引擎 - 语义搜索、嵌入、矢量搜索等等！

2024-07-08

【文档智能 & RAG】RAG增强之路：增强PDF解析并结构化技术路线方案及思路

2024-07-09

大家都在问

RAG vs ICL：AI大模型的记忆术和临场发挥，谁才是最强辅助？

2024-11-06

企业如何从0到1构建RAG系统？

2024-11-06

RAG 系统的分块难题：小型语言模型如何找到最佳断点？

2024-11-05

实操｜如何优雅的实现RAG与GraphRAG应用中的知识文档增量更新？

2024-11-04

全网最全国内Agent平台深度测评：扣子、Dify、FastGPT，谁是你的Agent开发首选？

2024-10-27

微软研究院新突破：如何让AI在专业领域更靠谱？

2024-10-25

语义分块真的有效吗？

2024-10-21

突破传统RAG局限：GraphRAG如何提升大模型问答能力？

2024-10-21

开箱即用的企业大模型应用平台

工作+AI

业务+AI

AIx业务

大模型咨询

大模型定制

相关资讯

160+中大型企业正在使用53AI

百度智能云邀53AI：共创AI新纪元，启航智能新时代

钉钉恒星计划：53AI与百余位企业家及钉钉生态伙伴，共议“AI 浪潮下的新机遇”

热点资讯

GraphRAG+Ollama 本地部署，保姆教程，踩坑无数，闭坑大法

RAGFlow：基于OCR和文档解析的下一代 RAG 引擎

微软开源的GraphRAG解读

深入解析 Graph RAG：提升语言模型问答能力的创新策略

基于Llama 3 构建RAG语音助手：将本地 RAG 与 Qdrant、Whisper 和 LangChain 集成

RAG框架，都在这了!

Prompt工程师必备：复旦重磅 | 最佳RAG实践长什么样的？

下一代 RAG 技术来了！微软正式开源 GraphRAG：大模型行业将迎来新的升级？

GraphRAG：终极 RAG 引擎 - 语义搜索、嵌入、矢量搜索等等！

【文档智能 & RAG】RAG增强之路：增强PDF解析并结构化技术路线方案及思路

大家都在问

RAG vs ICL：AI大模型的记忆术和临场发挥，谁才是最强辅助？

企业如何从0到1构建RAG系统？

RAG 系统的分块难题：小型语言模型如何找到最佳断点？

实操｜如何优雅的实现RAG与GraphRAG应用中的知识文档增量更新？

全网最全国内Agent平台深度测评：扣子、Dify、FastGPT，谁是你的Agent开发首选？

微软研究院新突破：如何让AI在专业领域更靠谱？

语义分块真的有效吗？

突破传统RAG局限：GraphRAG如何提升大模型问答能力？

热门标签