RAG 进阶：新一代大模型知识服务框架 KAG

推荐语

KAG 是新一代大模型知识服务框架，这是小贤看到的关于此领域最好的介绍，没有之一。

核心内容：
1. KAG 克服传统框架的问题
2. KAG 的核心功能
3. KAG 的技术架构

杨芳贤

53A创始人/腾讯云(TVP)最具价值专家

KAG（Knowledge Augmented Generation）是基于 OpenSPG 引擎和大型语言模型的逻辑推理问答框架，用于构建垂直领域知识库的逻辑推理问答解决方案。KAG 可以有效克服传统 RAG 向量相似度计算的歧义性和 OpenIE 引入的 GraphRAG 的噪声问题。KAG 支持逻辑推理、多跳事实问答等，并且明显优于目前的 SOTA 方法。

LLM 友好的语义化知识管理

私域知识库场景，非结构化数据、结构化信息、业务专家经验 往往三者共存，KAG 提出了一种对大型语言模型（LLM）友好的知识表示框架，在 DIKW（数据、信息、知识和智慧）的层次结构基础上，将 SPG 升级为对 LLM 友好的版本，命名为 LLMFriSPG。

这使得它能够在同一知识类型（如实体类型、事件类型）上兼容无 schema 约束的信息提取和有 schema 约束的专业知识构建，并支持图结构与原始文本块之间的互索引表示。

这种互索引表示有助于基于图结构的倒排索引的构建，并促进了逻辑形式的统一表示、推理和检索。同时通过知识理解、语义对齐等进一步降低信息抽取的噪声，提升知识的准确率和一致性。

逻辑符号引导的混合推理引擎

KAG 提出了一种逻辑符号引导的混合求解和推理引擎。该引擎包括三种类型的运算符：规划、推理和检索，将自然语言问题转化为结合语言和符号的问题求解过程。

在这个过程中，每一步都可以利用不同的运算符，如精确匹配检索、文本检索、数值计算或语义推理，从而实现四种不同问题求解过程的集成：图谱推理、逻辑计算、Chunk 检索和 LLM 推理。

KAG 框架包括 kg-builder、kg-solver、kag-model 三部分。本次发布只涉及前两部分，kag-model 将在后续逐步开源发布。

• kg-builder: 负责知识表示和构建。它实现了一种对 LLM 友好的知识表示，基于 DIKW 层次结构升级 SPG 知识表示能力，兼容无模式和有模式的知识构建，并支持图结构和文本块的互索引表示，为后续推理问答阶段的高效检索提供支持。

• kg-solver: 负责推理和求解。它采用逻辑形式引导的混合求解和推理引擎，包含规划、推理和检索三种运算符，能够集成检索、知识图谱推理、语言推理和数值计算四种问题求解过程，从而处理复杂的逻辑推理和问答任务。

• kag-model: (未来逐步开源) 该部分的功能在当前版本中未详细说明，可能包含模型训练、优化或其他与模型相关的组件。

推荐系统版本

macOS User：macOS Monterey 12.6 or laterLinux User：CentOS 7 / Ubuntu 20.04 or laterWindows User：Windows 10 LTSC 2021 or later

软件要求

macOS / Linux User：Docker，Docker ComposeWindows User：WSL 2 / Hyper-V，Docker，Docker Compose

docker 镜像安装

使用以下命令下载 docker-compose.yml 文件并使用 Docker Compose 启动服务。

# set the HOME environment variable (only Windows users need to execute this command)# set HOME=%USERPROFILE%
curl -sSL https://raw.githubusercontent.com/OpenSPG/openspg/refs/heads/master/dev/release/docker-compose-west.yml -o docker-compose-west.ymldocker compose -f docker-compose-west.yml up -d

运行

浏览器运行 http://127.0.0.1:8887