我要投稿

手搓KIMI的机会来了！蚂蚁首个Graph RAG 框架开源啦！

发布日期：2024-07-15 10:43:05 浏览次数： 3616 来源：人本智能

著名的检索增强生成应用kimi,估值已经达到了180亿美元。

现在，你也有机会手搓一个属于自己的kimi啦！

KIMI走的是检索增强生成路线，简称RAG：Retrieval Augmented Generation，它就是把信息检索与大模型结合，以缓解大模型推理“幻觉”的问题。

RAG的目标是通过知识库增强内容生成的质量，通常做法是将检索出来的文档作为提示词的上下文，一并提供给大模型让其生成更可靠的答案。更进一步地，RAG的整体链路还可以与提示词工程（Prompt Engineering）、模型微调（Fine Tuning）、知识图谱（Knowledge Graph）等技术结合，构成更广义的RAG问答链路。

但是呢，它也会有一些其他问题，比如

知识库内容缺失，截断有用文档，上下文整合丢失，有用信息未识别，提示词格式问题，准确性不足，答案不完整

比如，最经典的RAG架构，首先是索引，就是向量嵌入，然后是检索，进行相似查询，最后是生成文档上下文

除了传统意义上的增强内容生成，RAG的理念还可以做很多事情，比如：增强训练，增强微调，增强语料，增强知识，增强检索，增强推理

类似地，Graph RAG的核心链路也分如下三个阶段：

第一是索引，通过LLM服务实现文档的三元组提取，写入图数据库。

第二是检索：通过LLM服务实现查询的关键词提取和泛化（大小写、别称、同义词等），并基于关键词实现子图遍历（DFS/BFS），搜索N跳以内的局部子图。

第三是生成：将局部子图数据格式化为文本，作为上下文和问题一起提交给大模型处理。

开源的AI工程框架有诸多选型：LangChain、LlamaIndex、RAGFlow、DB-GPT等。知识图谱系统有：Jena、RDF4J、Oxigraph、OpenSPG等。图存储系统有Neo4j、JanusGraph、NebulaGraph、TuGraph等。

而作为蚂蚁首个对外开源的Graph RAG框架所有环节均采用蚂蚁全自主的开源产品：DB-GPT + OpenSPG + TuGraph。一个可以支持RAG的AI工程框架，一个知识图谱系统和一个图存储系统。

有兴趣的小伙伴，快去看一下吧！

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费场景POC验证，效果验证后签署服务协议。零风险落地应用大模型，已交付160+中大型企业

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

GraphRAG+Ollama 本地部署，保姆教程，踩坑无数，闭坑大法

2024-07-18

一文彻底搞懂大模型 - RAG（检索、增强、生成）

2024-09-04

RAGFlow：基于OCR和文档解析的下一代 RAG 引擎

2024-05-05

RAG框架，都在这了!

2024-06-20

全网最全国内Agent平台深度测评：扣子、Dify、FastGPT，谁是你的Agent开发首选？

2024-10-27

微软开源的GraphRAG解读

2024-07-09

深入解析 Graph RAG：提升语言模型问答能力的创新策略

2024-07-09

RAG 高效应用指南：Embedding 模型的选择和微调

2024-06-13

基于Llama 3 构建RAG语音助手：将本地 RAG 与 Qdrant、Whisper 和 LangChain 集成

2024-05-19

Prompt工程师必备：复旦重磅 | 最佳RAG实践长什么样的？

2024-07-07

大家都在问

打造RAG智能助手：实时数据检索的终极指南！惊呆你的需求，如何一步到位？

2025-02-05

RAG知识库中文档包含表格数据如何处理？

2025-02-05

破解大模型困境：RAG技术如何成为AI的终极武器？

2025-01-24

RAG文档分块新思路：LGMGC如何提升文档分块的语义连贯性？

2025-01-24

传统 RAG 和 Agentic RAG有什么不同？

2025-01-20

AI“捉妖记”：腾讯“朱雀”上线，我们离“真相”更近一步？

2025-01-18

3种RAG方法深度对比！知识图谱为何让微软GraphRAG脱颖而出？

2025-01-18

RAG一周出Demo，半年上不了线，怎么破？

2025-01-18

开箱即用的企业大模型应用平台

工作+AI

业务+AI

AIx业务

大模型咨询

大模型定制

场景解决方案

【智能问答】解决方案

【应用智改】解决方案

【智能工单】解决方案

相关资讯

160+中大型企业正在使用53AI

把握AI发展的机遇，共同探索、共同进步

如何打造基于GenAI的员工服务机器人

热点资讯

GraphRAG+Ollama 本地部署，保姆教程，踩坑无数，闭坑大法

一文彻底搞懂大模型 - RAG（检索、增强、生成）

RAGFlow：基于OCR和文档解析的下一代 RAG 引擎

RAG框架，都在这了!

全网最全国内Agent平台深度测评：扣子、Dify、FastGPT，谁是你的Agent开发首选？

微软开源的GraphRAG解读

深入解析 Graph RAG：提升语言模型问答能力的创新策略

RAG 高效应用指南：Embedding 模型的选择和微调

基于Llama 3 构建RAG语音助手：将本地 RAG 与 Qdrant、Whisper 和 LangChain 集成

Prompt工程师必备：复旦重磅 | 最佳RAG实践长什么样的？

大家都在问

打造RAG智能助手：实时数据检索的终极指南！惊呆你的需求，如何一步到位？

RAG知识库中文档包含表格数据如何处理？

破解大模型困境：RAG技术如何成为AI的终极武器？

RAG文档分块新思路：LGMGC如何提升文档分块的语义连贯性？

传统 RAG 和 Agentic RAG有什么不同？

AI“捉妖记”：腾讯“朱雀”上线，我们离“真相”更近一步？

3种RAG方法深度对比！知识图谱为何让微软GraphRAG脱颖而出？

RAG一周出Demo，半年上不了线，怎么破？

热门标签