AI知识库

53AI知识库

学习大模型的前沿技术与行业应用场景


使用千帆完全免费的大模型,去构建Graph RAG,效果如何?
发布日期:2024-09-12 06:40:15 浏览次数: 1593


先简单说下 RAG 和 Graph RAG的区别。

以把小说作为知识库为例。

RAG,会把小说分块,然后把每块向量化,之后用户提问,根据提问的问题,找到最相似的分块,最后把这些分块,发送给AI模型,最后,AI模型给出答案。

Graph RAG,会把小说中,拆分出节点和边。

节点,可以理解为是一个人物,如:主角。

边,可以理解为,节点和节点间的关系,用来连接节点。

然后,找到最相似的节点,遍历这个节点的上下关系,这个上下关系,可能和你问题的语义,完全不相关,所以普通RAG是搜不出来的。

最后,给AI模型,得出答案。

所以区别就是,Graph RAG给AI模型的语料,会包含更加详细的信息。


然后,进入正题,百度千帆平台,有完全免费的模型。

这种标着免费使用的模型,有着使用的限制,我用到的是下面的模型。

这里提示无需开通,也没标记使用限制。


具体如何对接,请自行查看文档,目前我还在开发的"多样智能",已经给出了web版页面配置。

配置好了之后,看下对话效果,我感觉这个免费的模型,对话效果不好。

最后我解析了小说"飞升之后",前24000字,构成了这样的知识图谱。

放大看看

这是我优化后结果,刚开始对接这个模型的时候,生成的图谱一塌糊涂。


看下搜索的结果。


我没有测试过openai构建的知识图谱,有钱的小伙伴可以也解析下,比较下,据我了解,使用openai构建的知识图谱很贵。

如果是本地搭建了ollama等平台,由于每台电脑配置不同,这里不测试了,反正我自己实验了下,就放弃了,太慢了。


53AI,企业落地应用大模型首选服务商

产品:大模型应用平台+智能体定制开发+落地咨询服务

承诺:先做场景POC验证,看到效果再签署服务协议。零风险落地应用大模型,已交付160+中大型企业

联系我们

售前咨询
186 6662 7370
预约演示
185 8882 0121

微信扫码

与创始人交个朋友

回到顶部

 
扫码咨询