微信扫码
与创始人交个朋友
我要投稿
hi~
来啦!
本系列!
做给那些,在低分RAG痛苦挣扎,期望用知识图谱拿结果的朋友!
代号:灵丹!
先上对比!常规RAG与知识图谱增强RAG的回复质量:
雄哥大概以25份《黑猴》的物品介绍,作为示例:
分别同一个问题:黑神话悟空中-攻杀丹药有哪些?
常规RAG回答
有"用品-聚珍伏虎丸(特品)"和"用品-伏虎丸(良品)"两种攻杀丹药。
知识图谱回答
从提供的信息中,可以得知存在以下几种攻杀丹药:
用品-登仙散(仙品)
用品-伏虎丸(良品)
用品-倍力丸(上品)
这些丹药都具有提升攻击能力的效果。例如,用品-登仙散(仙品)在一定时间内可以让所有动作不消耗气力,用品-伏虎丸(良品)则在较长时间内增加攻击造成的
对比,他们分别引用到的数据源:
就是这么神奇!
我们看到常规RAG:找不全、找不准、幻觉胡说八道!
知识图谱,给RAG带来两点优势:
优势①:串联碎片信息
将分散在N个文本块中的关联点,通过一个或几个节点,串联起来!
传统RAG做不到,比如:黑神话悟空中,攻杀丹药有几十种,每一种不同的攻杀丹药,都无规律地散落在各个文本块中,常规检索根本找不齐,但又息息相关,交付分低;
优势②:降本增效
只找关联的节点与关系边,毫秒级检索,缩短上下文tokens=钱!
传统方案是一个个臃肿无关联文本块,也有进阶对不同文本块打标签或总结方案,但文本块与文本块之间的关联,及本身臃肿的超大tokens,导致真正给大模型处理的任务,异常繁重,知识图谱主打轻+准+快;
想不想,带回家?
本系列的内容,如下:
day1:什么情况适合知识图谱?认识他的优势+劣势!
day2:如何用知识图谱?全面实操三种由简至深的部署方案!
day3:如何开发?本地实操把知识图谱接入到开发环境中!
day4:如何落地?纯本地接入大模型+RAG框架中,实操!
day5:如何拓展?围绕知识图谱+RAG,做一个自己的应用!
day6:如何提升?围绕不同场景,输出四大象限处理策略,真正灵丹!
技术栈说明
操作系统:Linux
环境:jupyter
开发语言:Python 3.10
知识图谱:NebulaGraph
RAG框架:LlamaIndex、LangChain
本地大模型:Qwen2-7B(高并发VLLM部署,灵活自定义)
嵌入索引模型:text2vec-large-chinese
算力要求:无要求,3090*24G(完整体验)或API供应商
53AI,企业落地应用大模型首选服务商
产品:大模型应用平台+智能体定制开发+落地咨询服务
承诺:先做场景POC验证,看到效果再签署服务协议。零风险落地应用大模型,已交付160+中大型企业
2024-11-24
AutoFlow:基于图 RAG 的智能知识库构建之路
2024-11-23
DB-GPT V0.6.2 版本更新:牵手libro社区、GraphRAG图谱构建能力增强等
2024-11-22
技术动态 | 如何使用知识图谱改进RAG?
2024-11-22
RAG前沿之RAG–知识图谱构建框架Graphusion:兼看LongRAG双视角检索增强生成范式
2024-11-21
OpenSPG/KAG 新版发布:聚焦用户反馈,大幅优化用户体验!
2024-11-15
大语言模型与图结构的融合:推荐系统中的新兴范式
2024-11-15
利用LLM构建非结构化文本的知识图谱
2024-11-13
GraphRAG:基于PolarDB+通义千问+LangChain的知识图谱+大模型最佳实践
2024-07-17
2024-07-11
2024-07-13
2024-08-13
2024-07-08
2024-07-12
2024-07-26
2024-06-10
2024-07-04
2024-06-24
2024-11-22
2024-11-04
2024-10-10
2024-10-03
2024-09-27
2024-09-08
2024-09-05
2024-08-27