我要投稿

微软多部门联合推出GraphRAG项目：全面性和多样性方面显著优于原生大模型RAG

发布日期：2024-04-26 14:37:36 浏览次数： 2379

微软多部门（微软研究院、微软战略任务与技术、微软CTO办公室）联合推出Project GraphRAG，大模型驱动的知识图谱。

Graph RAG项目介绍

传统的RAG方法适用于局部文本检索任务，但不适用于全局性的查询聚焦摘要任务，例如“数据集中的主要主题是什么？”这类问题。为了解决这一问题，提出了一种基于图的方法GraphRAG，利用大型语言模型（Large Language Models, LLMs）构建基于图的文本索引，以支持对整个文本语料库的全局性问题的回答。Graph Retrieval-Augmented Generation旨在改进针对私有或未见过的文档集合的查询聚焦摘要（Query-Focused Summarization, QFS）任务。

Graph RAG核心思想：通过两个阶段构建图索引，首先从源文档派生出实体知识图谱，然后为所有密切相关的实体组预生成社区摘要。

Graph RAG处理流程：

使用由大型语言模型（LLM）派生的源文档文本的图索引的Graph RAG流程。这个索引涵盖了节点（例如实体）、边（例如关系）以及协变量（例如声明），这些元素已经被为数据集领域定制的LLM提示检测、提取和总结。社区检测（例如Leiden算法）被用来将图索引划分为LLM可以在索引时间和查询时间并行总结的元素组（节点、边、协变量）。对于给定的查询，“全局答案”是通过在所有报告与该查询相关性的社区摘要上进行一轮查询聚焦的摘要来产生的。

源文档到文本块：决定输入文本的粒度，将其分割成文本块以供处理。
文本块到元素实例：使用LLM提示提取文本块中的实体和关系实例。
元素实例到元素摘要：进一步使用LLM将实例级摘要转换为图元素的描述性文本块。
元素摘要到图社区：使用社区检测算法将图索引分割成模块化社区。
图社区到社区摘要：为每个社区生成报告式摘要，这些摘要有助于理解数据集的全局结构和语义。
社区摘要到社区答案再到全局答案：使用社区摘要生成最终答案，通过一个多阶段过程，包括准备社区摘要、并行生成中间答案，并最终汇总成一个全局答案。

使用Leiden算法检测到的图社区，该算法应用于索引的MultiHop-RAG数据集。圆圈代表实体节点，其大小与它们的度数成比例。节点布局是通过OpenORD和Force Atlas 2完成的。节点颜色代表实体社区，显示在两个层次的层次聚类中：(a) 第0层，对应于具有最大模块化的层次划分；以及 (b) 第1层，它揭示了这些根级别社区内的内部结构。

Graph RAG效果评估：使用两个真实世界的数据集（播客文稿和新闻文章）来评估Graph RAG方法，并与naïve RAG和全局文本摘要方法进行比较。评估指标包括全面性、多样性和授权性（Empowerment）。Graph RAG在全面性和多样性方面显著优于naïve RAG基线，并且在较低的令牌成本下与源文本地全局摘要方法相比表现出有利的性能。

在两个数据集、四个指标和每次比较125个问题上的（行条件）相对于（列条件）的一对一胜率百分比（每个问题重复五次并计算平均值）。每个数据集和指标的总体胜出者以粗体显示。自我胜率没有计算，但作为参考显示为预期的50%。所有Graph RAG条件在全面性和多样性方面都优于朴素RAG。条件C1-C3在答案的全面性和多样性方面也比TS（没有图索引的全局文本摘要）略有提高。

新闻文章数据集的示例问题，以及由Graph RAG（C2级别）和朴素RAG生成的答案，还有由大型语言模型（LLM）生成的评估。Graph RAG答案更加丰富和多样。

53AI，企业落地应用大模型首选服务商

产品：大模型应用平台+智能体定制开发+落地咨询服务

承诺：先做场景POC验证，看到效果再签署服务协议。零风险落地应用大模型，已交付160+中大型企业

160+中大型企业正在使用53AI

立即咨询预约演示

百度智能云邀53AI：共创AI新纪元，启航智能新时代

2024-05-27

钉钉恒星计划：53AI与百余位企业家及钉钉生态伙伴，共议“AI 浪潮下的新机遇”

2024-05-22

热点资讯

最强 GPT 免费使用！GPT4O 开启多模态新时代！

2024-05-14

全民AI时代：手把手教你用Ollama & AnythingLLM搭建AI知识库，无需编程，跟着做就行！

2024-04-26

【开源看AI】4.9K star！Khoj：完美融合本地文档和在线网页的AI第二大脑

2024-05-22

OLLama详细的 api 介绍不完全指南 python 直接调用 OLLama api 翻译助手演示

2024-04-12

GraphRAG+Ollama 本地部署，保姆教程，踩坑无数，闭坑大法

2024-07-18

万字长文解析：大模型需要怎样的硬件算力

2024-03-30

微调神器LLaMA-Factory官方保姆级教程来了，从环境搭建到模型训练评估全覆盖

2024-05-10

开源项目Composio：突破 AI 智能体开发的边界

2024-08-13

更改ollama模型存储路径

2024-04-25

全面对比dify、coze、streamlit、chainlit

2024-04-26

大家都在问

传统到AI 大数据分析的演变，颠覆智慧水电的未来？

2024-09-23

为什么需要Agent?

2024-09-22

阿里巴巴发布Qwen2.5，对标GPT o1？

2024-09-22

深度解析：Apple Intelligence 真相揭秘 - 国行iPhone 16是否真的'阉割'?

2024-09-22

OpenAI o1的架构流程已被Claude破解了？

2024-09-21

从 Data 到 Data + AI，必然之路还是盲目跟风？

2024-09-21

疯狂星期四Qwen2.5开源，通义成了最Open的AI?

2024-09-20

在长上下文LLM的时代，RAG是否仍然必要？

2024-09-20

开箱即用的企业大模型应用平台

工作+AI

业务+AI

AIx业务

大模型咨询

大模型定制

微软多部门（微软研究院、微软战略任务与技术、微软CTO办公室）联合推出Project GraphRAG，大模型驱动的知识图谱。

相关资讯

160+中大型企业正在使用53AI

百度智能云邀53AI：共创AI新纪元，启航智能新时代

钉钉恒星计划：53AI与百余位企业家及钉钉生态伙伴，共议“AI 浪潮下的新机遇”

热点资讯

最强 GPT 免费使用！GPT4O 开启多模态新时代！

全民AI时代：手把手教你用Ollama & AnythingLLM搭建AI知识库，无需编程，跟着做就行！

【开源看AI】4.9K star！Khoj：完美融合本地文档和在线网页的AI第二大脑

OLLama详细的 api 介绍不完全指南 python 直接调用 OLLama api 翻译助手演示

GraphRAG+Ollama 本地部署，保姆教程，踩坑无数，闭坑大法

万字长文解析：大模型需要怎样的硬件算力

微调神器LLaMA-Factory官方保姆级教程来了，从环境搭建到模型训练评估全覆盖

开源项目Composio：突破 AI 智能体开发的边界

更改ollama模型存储路径

全面对比dify、coze、streamlit、chainlit

大家都在问

传统到AI 大数据分析的演变，颠覆智慧水电的未来？

为什么需要Agent?

阿里巴巴发布Qwen2.5，对标GPT o1？

深度解析：Apple Intelligence 真相揭秘 - 国行iPhone 16是否真的'阉割'?

OpenAI o1的架构流程已被Claude破解了？

从 Data 到 Data + AI，必然之路还是盲目跟风？

疯狂星期四Qwen2.5开源，通义成了最Open的AI?

在长上下文LLM的时代，RAG是否仍然必要？

热门标签

开箱即用的企业大模型应用平台

工作+AI

业务+AI

AIx业务

大模型咨询

大模型定制

微软多部门（ 微软研究院、微软战略任务与技术、微软CTO办公室）联合推出Project GraphRAG，大模型驱动的知识图谱。

相关资讯

160+中大型企业正在使用53AI

百度智能云邀53AI：共创AI新纪元，启航智能新时代

钉钉恒星计划：53AI与百余位企业家及钉钉生态伙伴，共议“AI 浪潮下的新机遇”

热点资讯

最强 GPT 免费使用！GPT4O 开启多模态新时代！

全民AI时代：手把手教你用Ollama & AnythingLLM搭建AI知识库，无需编程，跟着做就行！

【开源看AI】4.9K star！Khoj：完美融合本地文档和在线网页的AI第二大脑

OLLama详细的 api 介绍 不完全指南 python 直接调用 OLLama api 翻译助手演示

GraphRAG+Ollama 本地部署，保姆教程，踩坑无数，闭坑大法

万字长文解析：大模型需要怎样的硬件算力

微调神器LLaMA-Factory官方保姆级教程来了，从环境搭建到模型训练评估全覆盖

开源项目Composio：突破 AI 智能体开发的边界

更改ollama模型存储路径

全面对比dify、coze、streamlit、chainlit

大家都在问

传统到AI 大数据分析的演变，颠覆智慧水电的未来？

为什么需要Agent?

阿里巴巴发布Qwen2.5，对标GPT o1？

深度解析：Apple Intelligence 真相揭秘 - 国行iPhone 16是否真的&#39;阉割&#39;?

OpenAI o1的架构流程已被Claude破解了？

从 Data 到 Data + AI，必然之路还是盲目跟风？

疯狂星期四Qwen2.5开源，通义成了最Open的AI?

在长上下文LLM的时代，RAG是否仍然必要？

热门标签

微软多部门（微软研究院、微软战略任务与技术、微软CTO办公室）联合推出Project GraphRAG，大模型驱动的知识图谱。

OLLama详细的 api 介绍不完全指南 python 直接调用 OLLama api 翻译助手演示

深度解析：Apple Intelligence 真相揭秘 - 国行iPhone 16是否真的'阉割'?