AI知识库

53AI知识库

学习大模型的前沿技术与行业应用场景


准确率提升17%!渊亭科技Graph-RAG技术迎来新突破
发布日期:2024-09-11 16:17:32 浏览次数: 1895 来源:渊亭科技




前言

在大数据和人工智能的浪潮中,信息检索技术迎来了飞速发展。RAG(Retrieval-Augmented Generation)技术,作为这一浪潮中的创新成果,通过融合检索与生成技术,优化了搜索结果,使其更精准地满足用户需求。


然而,面对海量数据和复杂文档的挑战,传统RAG技术在处理分散信息的整合、全面理解大量数据集或单个大型文档的摘要语义概念方面存在一定的局限性。针对这些限制,微软提出了GraphRAG技术。GraphRAG主要是利用大型语言模型(Large Language Models, LLMs)构建基于图的文本索引,以支持对整个文本语料库全局性问题的解答。尽管Graph RAG突破了传统RAG的技术壁垒,但它在实际应用中仍面临架构不完整、缺乏全链条支持(尤其在检索和上下文理解方面)、构建速度慢、成本高昂以及对特定技术栈有依赖等挑战。

渊亭科技多年来一直深耕知识图谱领域,随着大模型技术的兴起与发展,渊亭科技一直在技术研发和项目落地中不断探索两者的融合与应用,最终探索出了利用知识图谱来弥补此类不足的途径——KG-RAG(Knowledge Graph Retrieval-Augmented Generation,基于知识图谱的检索增强生成)


渊亭KG-RAG方案,集成了自动化智能图谱构建、精细化的多层索引策略和高效的全局查询引擎,相较于微软的Graph RAG,渊亭KG-RAG能够显著提升生成模型的内容输出质量,增强生成文本的准确性、丰富性和相关性,助力企业安全高效地构建、部署、应用,实现更加便捷、精确的智能对话,进而提高业务决策的效率和质量。

 


传统图谱构建的难度在于需要结合运用自然语言处理(NLP)、机器学习、数据库管理以及分布式计算等多种技术手段,由于涉及复杂的图结构索引构建、实体关系的精确抽取与链接,以及高效的检索机制设计,Graph RAG在数据预处理、算法优化和系统架构设计等方面都面临较大挑战,特别是如何平衡构建速度与查询性能,以及如何有效利用并发和分布式处理技术来加速整体流程。


渊亭基于自有的Sati-Pro技术, 实现按需自动化图谱构建,这种方法不仅能够细致构建相互关联的异构知识信息,还能提升知识上下文的连贯性与深度。主要体现在以下几个方面:


(1)元数据生成:基于Sati-Pro 的全自动化的图谱构建工具(数据抽取、融合到生成)和zero-shot、few-shot的学习方式,实现通用领域的元数据构建与生成。同时,可通过渊亭领域经验协助构建prompt,加速数据生成。


(2)数据抽取:支持泛文本的数据自动抽取,基于对应领域的元数据,再结合大模型的领域知识理解能力,从泛文本中自动化抽取关键信息。


(3)数据融合:利用数据抽取获得的高质量结构化数据,自动学习数据间关联性,按预设规则整合不同来源和格式的数据,生成全面、准确、一致的知识网络。


传统RAG技术利用向量搜索方法处理非结构化数据,即将信息转化为高维向量进行表示和检索。这种方法在局部检索任务表现出色,但面对复杂查询或领域特色主题时,难以提供足够的上下文深度和信息关联性。为了让答案更加准确和完整,让源数据信息进行多层次深化索引,渊亭KG-RAG除了使用部分RAG常规技术手段外,还采取下列增强手段:


(1)全息知识嵌入:相比Graph RAG的文本单元(TextUnits)切片方法,渊亭KG-RAG使用改进的深度学习算法技术进行语义切片,确保更高的准确性和上下文连贯性。


(2)动态社区发现:采用动态社区发现算法,实时调整社区结构,以捕捉数据集中潜在的变化和动态关系,确保社区结构始终保持最优。


(3)多层次实体识别:渊亭KG-RAG不仅提取基本实体和关系,还能识别更复杂的实体类型和关系网络,如情感关系、因果关系等,提供更丰富的数据层次。


(4)分层递归摘要:通过分层递归摘要技术,从底层到高层逐级生成社区摘要,确保每个层级的摘要都能准确反映数据集的全貌。



在查询处理环节,渊亭KG-RAG致力于实现更高的可解释性,并通过更深层次的检索增强技术,以优化查询结果的理解与精准度,主要通过:


(1)增强的全局查询能力:通过改进的知识图谱和语义聚类技术,使得渊亭KG-RAG在处理全局性问题时,能够更精准地捕捉数据集中的主要主题和隐藏模式。


(2)动态上下文拓展:渊亭KG-RAG能实时扩展相关概念,在具体查询时,提供更全面的答案,同时保留上下文信息,避免信息碎片化。


(3)全面混合多链路检索:在图向量与语义聚类技术外,KG-RAG还结合多维文本embeding、kg-vector、kg-rank等多技术路径,灵活应对大部分检索难点。


(4)高效的多层次查询:在处理复杂查询时,通过改进的层次聚类和语义分析,能够快速生成精确的多层次答案。


(5)可追溯性:每个查询结果都提供明确的出处,可精准溯源,确保结果的可验证性和可信度。


这里来看个对比例子,首先向RAG系统和渊亭KG-RAG提出一个探索查询。


“猎户座”无人机在俄乌战争中展现出的战术能力


  • 使用RAG进行查询


  • 使用渊亭KG-RAG进行查询


为了评估RAG和KG-RAG的回复,我们可以比较它们提供的:“猎户座”无人机在俄乌战争中展现出的战术能力的全面性、准确性和综合性。


RAG和KG-RAG回复对比



结果可以发现渊亭KG-RAG的回复更优,因为它通过引入知识图谱来增强系统的上下文理解和推理能力,从而提供了更全面、准确和综合的答案。


另外,在渊亭KG-RAG和RAG的准确率情况,我们进行了多项对比,包括单属性问答、多实体单属性问答、多实体多属性问答、多属性匹配等,根据实验数据,KG-RAG在信息检索的准确率高达83.26%,而单独使用RAG的准确率仅66.52%。在整体准确率上,KG-RAG相对于传统的RAG方案提升了约17%


对比情况表


 

微软的Graph RAG需要克服组件间依赖性、配置复杂度、数据格式兼容性、性能要求、对外部库的依赖、平台特性的差异及安全合规等挑战,这要求解决方案具备灵活性、详细的文档说明以及强大的支撑以保证在不同环境中的顺利部署与运行。


渊亭KG-RAG通过高度解耦的设计,使产品能够实现跨环境的无缝兼容,无需依赖于固定的大模型和图数据,为应用的快速落地提供全方位支撑,主要体现在:


(1)灵活选型:提供了多种预置模板,用户可以根据需求,通过拖拉拽的方式,选择最适合的 KG-RAG技术路径,确保最佳的性能和效果,为熟悉场景但对技术细节不太了解的用户提供服务。


(2)细化调整:可以根据不同场景的需求细化调整 KG-RAG 的能力适配,允许用户进行精细化配置,提高应用的灵活性和适应性。


(3)模块化设计:系统采用模块化设计,每个模块独立部署、维护,可按需配置资源。


(4)依赖解耦:系统设计不依赖特定的大模型、关系数据库、图数据库等基础设施,能够兼容市场上大部分基础设施 ,比如大模型支持Qwen、Baichuan、ChatGLM、LLaMA、LLaVA、Mistral、Mixtral-MoE、Yi、Gemma等。


(5)技术路径多样性:系统采用多技术路径,如图向量、语义聚类、多维文本 embedding、kg-rank 等,并采用场景模块化思路,快速构建适用不同场景下最优技术链路。


(6)国产化:系统支持国产CPU、国产GPU,国产操作系统(如麒麟),且适配国产组件(如达梦数据库)。


渊亭KG-RAG在功能创新上实现了自动化构图、多维度知识图谱推理与溯源,以及便捷的一键式知识检索报告生成与画像分析报告等功能,极大地提升了检索和分析的效率。


通过构建和细化多维度知识图谱,提供了强大的推理和溯源分析能力。它能够透视数据之间错综复杂的关系网,进行深入的推理分析,并追溯信息的起源,揭示数据背后的逻辑联系。此外,通过对具有相似特征或行为的实体进行群体分析,KG-RAG能够揭示群体内部的动态变化和趋势,为决策提供有力的数据支撑。


用户通过简单对话即可生成详尽的知识检索报告和画像分析报告。这些报告不仅包含查询的基本信息,还结合知识图谱的推理和溯源能力,提供更深层次的分析和见解。此外,系统还能生成针对特定个体的全面画像分析,整合不同来源的数据,细致描绘出个人的特征、行为模式及其潜在影响,为用户提供深度的洞察和服务。

 


在政策申报过程中,用户经常面对政策信息了解不全面、申报条件以及申报流程等问题。针对企业和个人在寻求政策支持时的实际需求,KG-RAG进一步发挥了其强大的政策匹配与推荐能力。用户仅需输入基本信息和需求,系统便能自动检索知识图谱,精准匹配适用政策,并提供详细的申请指南。这种自动化的政策匹配与推荐服务,不仅减轻了用户的信息筛选负担,还提高了政策落地的效率和精准度,为企业和个人的发展提供了有力支持。  


传统的金融服务往往采取标准化的策略,所提供的投资建议可能无法满足个别客户的具体需求;而金融产品的推荐也可能受限于不全面的客户信息和产品特性,导致推荐的效果不尽如人意。为了解决这些问题,KG-RAG+大模型通过整合客户数据、市场动态及产品特征构建了一个综合性的知识图谱。


借助该图谱,系统能够深入分析客户的过往交易记录,准确捕捉其交易行为模式、风险承受能力和长远财务目标。结合先进的风险评估机制,KG-RAG+不仅能够全面审视客户的投资环境,包括但不限于市场波动性、政策变化及行业发展趋势等多个风险维度,还能基于这些洞察,提供包括资产配置、投资组合优化、教育基金储备、退休计划及税务规划等在内的个性化风险管理方案,从而实现更加精准且有针对性的金融产品推荐和服务。


舆情数据往往来自不同的领域和渠道,具有异构性和多样性。传统的情报分析方法难以有效整合这些跨领域的数据。渊亭KG-RAG能够处理跨领域的数据集,快速分析来自不同国家、不同行业以及多种数据类型,包括新闻报道、社交媒体舆论、研究报告等情报信息。它自动化整合文本、图像、视频等多类型数据,构建跨领域情报知识图谱,有效解决了数据整合难题。


同时,渊亭KG-RAG利用其查询处理优势,深度分析知识图谱中的实体和关系,识别异常舆情与潜在风险。如某地区出现特殊事件而产生大量负面言论时,KG-RAG能迅速检测并验证这些异常信号。确认风险后,即刻触发预警,通知相关部门或企业及时响应。此外,它还能实时分析知识图谱中的实体和关系变化,感知并预测特定领域态势。

 


通过以上分析可以看出,KG-RAG作为RAG方案的下一场,在信息检索与生成模型融合方面展示了巨大的潜力和优势。其通过引入知识图谱技术,提升了知识的组织和检索效率,显著改善了生成结果的准确性和相关性。未来,随着技术的不断进步和应用场景的扩展,KG-RAG有望在更多领域中得到应用,为复杂问题的解决提供更为高效和准确的工具和方法。



53AI,企业落地应用大模型首选服务商

产品:大模型应用平台+智能体定制开发+落地咨询服务

承诺:先做场景POC验证,看到效果再签署服务协议。零风险落地应用大模型,已交付160+中大型企业

联系我们

售前咨询
186 6662 7370
预约演示
185 8882 0121

微信扫码

与创始人交个朋友

回到顶部

 
扫码咨询