微信扫码
添加专属顾问
我要投稿
hi~
来啦!
本系列!
做给那些,在低分RAG痛苦挣扎,期望用知识图谱拿结果的朋友!
代号:灵丹!
先上对比!常规RAG与知识图谱增强RAG的回复质量:
雄哥大概以25份《黑猴》的物品介绍,作为示例:
分别同一个问题:黑神话悟空中-攻杀丹药有哪些?
常规RAG回答
有"用品-聚珍伏虎丸(特品)"和"用品-伏虎丸(良品)"两种攻杀丹药。
知识图谱回答
从提供的信息中,可以得知存在以下几种攻杀丹药:
用品-登仙散(仙品)
用品-伏虎丸(良品)
用品-倍力丸(上品)
这些丹药都具有提升攻击能力的效果。例如,用品-登仙散(仙品)在一定时间内可以让所有动作不消耗气力,用品-伏虎丸(良品)则在较长时间内增加攻击造成的
对比,他们分别引用到的数据源:
就是这么神奇!
我们看到常规RAG:找不全、找不准、幻觉胡说八道!
知识图谱,给RAG带来两点优势:
优势①:串联碎片信息
将分散在N个文本块中的关联点,通过一个或几个节点,串联起来!
传统RAG做不到,比如:黑神话悟空中,攻杀丹药有几十种,每一种不同的攻杀丹药,都无规律地散落在各个文本块中,常规检索根本找不齐,但又息息相关,交付分低;
优势②:降本增效
只找关联的节点与关系边,毫秒级检索,缩短上下文tokens=钱!
传统方案是一个个臃肿无关联文本块,也有进阶对不同文本块打标签或总结方案,但文本块与文本块之间的关联,及本身臃肿的超大tokens,导致真正给大模型处理的任务,异常繁重,知识图谱主打轻+准+快;
想不想,带回家?
本系列的内容,如下:
day1:什么情况适合知识图谱?认识他的优势+劣势!
day2:如何用知识图谱?全面实操三种由简至深的部署方案!
day3:如何开发?本地实操把知识图谱接入到开发环境中!
day4:如何落地?纯本地接入大模型+RAG框架中,实操!
day5:如何拓展?围绕知识图谱+RAG,做一个自己的应用!
day6:如何提升?围绕不同场景,输出四大象限处理策略,真正灵丹!
技术栈说明
操作系统:Linux
环境:jupyter
开发语言:Python 3.10
知识图谱:NebulaGraph
RAG框架:LlamaIndex、LangChain
本地大模型:Qwen2-7B(高并发VLLM部署,灵活自定义)
嵌入索引模型:text2vec-large-chinese
算力要求:无要求,3090*24G(完整体验)或API供应商
53AI,企业落地大模型首选服务商
产品:场景落地咨询+大模型应用平台+行业解决方案
承诺:免费场景POC验证,效果验证后签署服务协议。零风险落地应用大模型,已交付160+中大型企业
2025-01-02
2024-07-17
2025-01-03
2024-07-11
2024-08-13
2024-06-24
2024-07-13
2024-08-27
2024-06-10
2024-07-12
2025-02-13
2025-01-14
2025-01-10
2025-01-06
2025-01-02
2024-12-16
2024-12-10
2024-12-04