我要投稿

LightRAG将GraphRAG落地门槛打下来了！

发布日期：2024-10-14 11:24:23 浏览次数： 2519 来源：PaperAgent

现有的RAG系统存在显著的局限性，包括依赖于平面数据表示和缺乏足够的上下文感知能力，这可能导致答案碎片化，无法捕捉复杂的相互依赖关系。

为了解决这些挑战，提出了LightRAG，它将图结构整合到文本索引和检索过程中。这一创新框架采用了双层检索系统，从低层次和高层次的知识发现中增强了全面信息检索。

提出的LightRAG框架的整体架构

此外，图结构与向量表示的整合便于高效检索相关实体及其关系，显著提高了响应时间，同时保持了上下文的相关性。这种能力通过增量更新算法进一步增强，确保新数据能够及时整合，使系统在快速变化的数据环境中保持有效和响应性。并且LightRAG已开源。

LightRAG架构的详细步骤：

图基文本索引（Graph-Based Text Indexing）

步骤1：实体和关系提取

使用大型语言模型（LLM）对文档进行分析，识别出文本中的实体（如人名、地点、组织等）和它们之间的关系（如“属于”、“位于”等）。

将文档分割成多个小块（chunks），以提高处理效率。

步骤2：LLM Profiling生成键值对

对于每个识别出的实体和关系，使用LLM生成一个键值对（key-value pair），其中键（key）是一个或多个关键词，值（value）是与实体或关系相关的文本段落。

步骤3：去重优化

通过去重（Deduplication）过程，合并来自不同文档块中的相同实体和关系，减少图操作的开销。

双层检索范式（Dual-Level Retrieval Paradigm）

步骤4：生成查询关键词

对于给定的用户查询，提取局部（low-level）和全局（high-level）关键词。

步骤5：关键词匹配

使用向量数据库匹配局部关键词与候选实体，以及全局关键词与全局关键词关联的关系。

步骤6：整合高阶相关性

为了增强查询的相关性，LightRAG会收集检索到的图元素的邻接节点，这涉及到检索节点和边的一跳邻接节点。

检索增强答案生成

步骤7：使用检索到的信息

利用检索到的信息（包括实体和关系的值），通过通用的LLM生成答案。

步骤8：上下文整合与答案生成

将用户查询与多源文本合并，LLM生成符合查询意图的信息性答案。

增量知识库的快速适应

步骤9：增量更新知识库

当有新文档加入时，使用与之前相同的图基索引步骤处理新文档，生成新的知识图谱数据。

将新知识图谱数据与原有知识图谱合并，实现新数据的无缝整合。

步骤10：减少计算开销

避免重建整个索引图，减少计算开销，实现新数据的快速整合。

广泛的实验验证表明，与现有方法相比，LightRAG在多个关键维度上，包括全面性、多样性、知识赋能，都显示出了显著的改进。LightRAG效果优于GraphRAG、NaiveRAG、RQ-RAG 、HyDE。

在四个数据集和四个评估维度下，基线与LightRAG的胜率（%）对比

使用NaiveRAG作为参考，LightRAG的简化版本的性能

案例研究：LightRAG与基线方法GraphRAG之间的比较

LightRAG检索和生成过程。当提出查询“哪些指标对于评估电影推荐系统最有信息量？”时，大型语言模型（LLM）首先提取低级和高级关键词。这些关键词指导在生成的知识图谱上的双级检索过程，目标是相关实体和关系。检索到的信息被组织成三个组成部分：实体、关系和相应的文本块。这些结构化数据随后被输入到LLM中，使其能够生成对查询的全面回答。

https://github.com/HKUDS/LightRAGhttps://arxiv.org/pdf/2410.05779LIGHTRAG: SIMPLE AND FAST RETRIEVAL-AUGMENTED GENERATION

53AI，企业落地应用大模型首选服务商

产品：大模型应用平台+智能体定制开发+落地咨询服务

承诺：先做场景POC验证，看到效果再签署服务协议。零风险落地应用大模型，已交付160+中大型企业

160+中大型企业正在使用53AI

立即咨询预约演示

百度智能云邀53AI：共创AI新纪元，启航智能新时代

2024-05-27

钉钉恒星计划：53AI与百余位企业家及钉钉生态伙伴，共议“AI 浪潮下的新机遇”

2024-05-22

热点资讯

太强了！10大开源大模型！

2024-05-06

Ollama 本地运行大模型(LLM)完全指南

2024-07-25

开源项目Composio：突破 AI 智能体开发的边界

2024-08-13

Qwen2 阿里最强开源大模型（Qwen2-7B）本地部署、API调用和WebUI对话机器人

2024-06-12

如何免费使用 Claude AI？Claude使用指南！

2024-07-11

中医大模型，开源！

2024-06-16

全民进入GPT-4时代：OpenAI强势推出GPT-4o mini！彻底取代GPT-3.5！

2024-07-20

QWEN2.5开源上新，14B/32B回归实测：这就是最强单卡本地模型！

2024-09-20

开源医疗大模型Llama3-Aloe-8B-Alpha，性能超越 MedAlpaca 和 PMC-LLaMA

2024-06-15

教你使用Ollama在本地跑Llama3.1

2024-07-25

大家都在问

微软开源的 Markitdown 可将任意文件转换为 Markdown 格式，PDF 解析咋样？

2024-12-20

开源！轻量！AI 代码助手插件 Continue 使用体验如何？

2024-12-19

不可思议！AirLLM 如何让 70B 大模型在 4GB GPU 上顺利推理？

2024-11-22

从浏览器自动化到个人助手，Skyvern又悄悄占据了AI市场的一席之地？

2024-11-19

这家小公司的700 亿参数模型竟然比Open o1还强？

2024-11-13

Ollama 更新！本地跑 LLama3.2，轻量级+视觉能力，能媲美GPT-4o？

2024-11-13

NotebookLM+AI播客到底是什么神仙组合？

2024-10-07

阿里巴巴发布Qwen2.5，对标GPT o1？

2024-09-22

开箱即用的企业大模型应用平台

工作+AI

业务+AI

AIx业务

大模型咨询

大模型定制

相关资讯

160+中大型企业正在使用53AI

百度智能云邀53AI：共创AI新纪元，启航智能新时代

钉钉恒星计划：53AI与百余位企业家及钉钉生态伙伴，共议“AI 浪潮下的新机遇”

热点资讯

太强了！10大开源大模型！

Ollama 本地运行大模型(LLM)完全指南

开源项目Composio：突破 AI 智能体开发的边界

Qwen2 阿里最强开源大模型（Qwen2-7B）本地部署、API调用和WebUI对话机器人

如何免费使用 Claude AI？Claude使用指南！

中医大模型，开源！

全民进入GPT-4时代：OpenAI强势推出GPT-4o mini！彻底取代GPT-3.5！

QWEN2.5开源上新，14B/32B回归实测：这就是最强单卡本地模型！

开源医疗大模型Llama3-Aloe-8B-Alpha，性能超越 MedAlpaca 和 PMC-LLaMA

教你使用Ollama在本地跑Llama3.1

大家都在问

微软开源的 Markitdown 可将任意文件转换为 Markdown 格式，PDF 解析咋样？

开源！轻量！AI 代码助手插件 Continue 使用体验如何？

不可思议！AirLLM 如何让 70B 大模型在 4GB GPU 上顺利推理？

从浏览器自动化到个人助手，Skyvern又悄悄占据了AI市场的一席之地？

这家小公司的700 亿参数模型竟然比Open o1还强？

Ollama 更新！本地跑 LLama3.2，轻量级+视觉能力，能媲美GPT-4o？

NotebookLM+AI播客到底是什么神仙组合？

阿里巴巴发布Qwen2.5，对标GPT o1？

热门标签

开箱即用的企业大模型应用平台

工作+AI

业务+AI

AIx业务

大模型咨询

大模型定制

相关资讯

160+中大型企业正在使用53AI

百度智能云邀53AI：共创AI新纪元，启航智能新时代

钉钉恒星计划：53AI与百余位企业家及钉钉生态伙伴，共议“AI 浪潮下的新机遇”

热点资讯

太强了！10​大开源大模型！

Ollama 本地运行大模型(LLM)完全指南

开源项目Composio：突破 AI 智能体开发的边界

Qwen2 阿里最强开源大模型（Qwen2-7B）本地部署、API调用和WebUI对话机器人

如何免费使用 Claude AI？Claude使用指南！

中医大模型 ，开源！

全民进入GPT-4时代：OpenAI强势推出GPT-4o mini！彻底取代GPT-3.5！

QWEN2.5开源上新，14B/32B回归实测：这就是最强单卡本地模型！

开源医疗大模型Llama3-Aloe-8B-Alpha，性能超越 MedAlpaca 和 PMC-LLaMA

教你使用Ollama在本地跑Llama3.1

大家都在问

微软开源的 Markitdown 可将任意文件转换为 Markdown 格式，PDF 解析咋样？

开源！轻量！AI 代码助手插件 Continue 使用体验如何？

不可思议！AirLLM 如何让 70B 大模型在 4GB GPU 上顺利推理？

从浏览器自动化到个人助手，Skyvern又悄悄占据了AI市场的一席之地？

这家小公司的700 亿参数模型竟然比Open o1还强？

Ollama 更新！本地跑 LLama3.2，轻量级+视觉能力，能媲美GPT-4o？

NotebookLM+AI播客到底是什么神仙组合？

阿里巴巴发布Qwen2.5，对标GPT o1？

热门标签

太强了！10大开源大模型！

中医大模型，开源！