AI知识库

53AI知识库

学习大模型的前沿技术与行业应用场景


知 识 图 谱 + R A G 大妙用!
发布日期:2024-08-24 22:58:14 浏览次数: 1639


hi~

来啦!

本系列!

做给那些,在低分RAG痛苦挣扎,期望用知识图谱拿结果的朋友

代号:灵丹!

先上对比!常规RAG知识图谱增强RAG的回复质量:

雄哥大概以25份《黑猴》的物品介绍,作为示例:

分别同一个问题:黑神话悟空中-攻杀丹药有哪些?

常规RAG回答

有"用品-聚珍伏虎丸(特品)"和"用品-伏虎丸(良品)"两种攻杀丹药。

知识图谱回答

从提供的信息中,可以得知存在以下几种攻杀丹药:

  1. 用品-登仙散(仙品)

  2. 用品-伏虎丸(良品)

  3. 用品-倍力丸(上品)

这些丹药都具有提升攻击能力的效果。例如,用品-登仙散(仙品)在一定时间内可以让所有动作不消耗气力,用品-伏虎丸(良品)则在较长时间内增加攻击造成的

对比,他们分别引用到的数据源:

就是这么神奇!

我们看到常规RAG:找不全、找不准、幻觉胡说八道!


知识图谱,给RAG带来两点优势:

优势①:串联碎片信息

将分散在N个文本块中的关联点,通过一个或几个节点,串联起来!

传统RAG做不到,比如:黑神话悟空中,攻杀丹药有几十种,每一种不同的攻杀丹药,都无规律地散落在各个文本块中,常规检索根本找不齐,但又息息相关,交付分低;


优势②:降本增效

只找关联的节点与关系边,毫秒级检索,缩短上下文tokens=钱!

传统方案是一个个臃肿无关联文本块,也有进阶对不同文本块打标签或总结方案,但文本块与文本块之间的关联,及本身臃肿的超大tokens,导致真正给大模型处理的任务,异常繁重,知识图谱主打轻+准+快;


想不想,带回家?

本系列的内容,如下:

day1:什么情况适合知识图谱?认识他的优势+劣势!

day2:如何用知识图谱?全面实操三种由简至深的部署方案!

day3:如何开发?本地实操把知识图谱接入到开发环境中!

day4:如何落地?纯本地接入大模型+RAG框架中,实操!

day5:如何拓展?围绕知识图谱+RAG,做一个自己的应用!

day6:如何提升?围绕不同场景,输出四大象限处理策略,真正灵丹!


技术栈说明

操作系统:Linux

环境:jupyter

开发语言:Python 3.10

知识图谱:NebulaGraph

RAG框架:LlamaIndex、LangChain

本地大模型:Qwen2-7B(高并发VLLM部署,灵活自定义)

嵌入索引模型:text2vec-large-chinese

算力要求:无要求,3090*24G(完整体验)或API供应商



53AI,企业落地应用大模型首选服务商

产品:大模型应用平台+智能体定制开发+落地咨询服务

承诺:先做场景POC验证,看到效果再签署服务协议。零风险落地应用大模型,已交付160+中大型企业

联系我们

售前咨询
186 6662 7370
预约演示
185 8882 0121

微信扫码

与创始人交个朋友

回到顶部

 
扫码咨询