我要投稿

开源RAG工具kotaemon搭建私域ChatQA

发布日期：2024-08-29 06:02:28 浏览次数： 2334 作者：哎呀AIYA

今天介绍一个涨star贼快的项目kotaemon，它是一个开源的干净且可定制的RAG UI，可用于构建自己的文档聊天应用。开发人员可以从项目中学习RAG整个流程实战；终端使用人员可以0代码部署自己个人基于RAG的QA应用。

这个项目为想要对文档进行QA的最终用户和想要构建自己的RAG管道的开发人员提供功能性的RAG UI：

对于最终用户：

一个干净且简约的用户界面，用于基于RAG的QA。
支持 LLM API 提供程序（OpenAI、AzureOpenAI、Cohere 等）和本地 LLM （ollama和llama-cpp-python的模型）
简单的安装脚本。

对于开发人员：

用于构建您自己的基于 RAG 的文档 QA 管道的框架。
使用提供的 UI（使用 Gradio 构建）自定义并查看 RAG 管道的运行情况。

使用界面

基于 Gradio 构建，您可以根据需要自由自定义/添加任何 UI 元素。此外，我们的目标是支持多种文档索引和检索策略。GraphRAG索引管道作为示例提供。

主要特点

托管您自己的文档 QA （RAG） web-UI。支持多用户登录，在私人/公共收藏中组织您的文件，与他人协作并分享您最喜欢的聊天。
整理你的LLM和嵌入模型。支持本地LLMs和流行的API提供商（OpenAI， Azure， Ollama， Groq）。
混合 RAG 管道。Sane 默认的 RAG 管道，带有混合（全文和向量）检索器 + 重新排名，以确保最佳检索质量。
多模式 QA 支持。通过数字和表格支持在多个文档上执行问答。支持多模态文档解析（UI 上的可选选项）。
通过文档预览推进引文。默认情况下，系统会提供详细的引文以确保 LLM 答案的正确性。直接在浏览器内的 PDF 查看器中查看您的引文（包括相关分数），并突出显示。当检索管道返回低相关文章时发出警告。
支持复杂的推理方法。使用问题分解来回答复杂/多跃点问题。使用 ReAct、ReWOO 和其他代理支持基于代理的推理。
可配置的设置 UI。您可以在UI上调整检索和生成过程的最重要方面（包括提示）。
可扩展。基于 Gradio 构建，您可以根据需要自由自定义/添加任何 UI 元素。此外，我们的目标是支持多种文档索引和检索策略。GraphRAG索引管道作为示例提供。

使用起来

在新的 python 环境中克隆并安装所需的软件包。

# optional (setup env)conda create -n kotaemon python=3.10conda activate kotaemon
# clone this repogit clone https://github.com/Cinnamon/kotaemoncd kotaemon
pip install -e "libs/kotaemon[all]"pip install -e "libs/ktem"

启动 Web 服务器：

python app.py

默认用户名/密码为：admin/admin .您可以直接在 UI 上设置其他用户。

进一步配置请查看：(可以方便的复制到新机器上，也可以在系统中替换自己的RAG模块)

https://github.com/Cinnamon/kotaemon

体验地址：

https://huggingface.co/spaces/taprosoft/kotaemon

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费场景POC验证，效果验证后签署服务协议。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2025-04-26

深度学习！构建基于LangGraph的RAG多智能体研究工具。

2025-04-26

用RAG与Agent提升企业问答效率：我的AI实践之路

2025-04-26

理解 RAG 第一部分：为什么需要它

2025-04-26

理解 RAG 第三部分：融合检索与重新排序

2025-04-26

理解 RAG 第四部分：检索增强生成评估框架

2025-04-26

理解 RAG 第五部分：管理上下文长度

2025-04-26

RAG比之MCP或长上下文LLM，要没落了吗？

2025-04-26

【Ragflow】21.RagflowPlus(v0.2.1)：6个bug修复/增加重置密码功能

了解更多

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

全网最全国内Agent平台深度测评：扣子、Dify、FastGPT，谁是你的Agent开发首选？

2024-10-27

一文彻底搞懂大模型 - RAG（检索、增强、生成）

2024-09-04

GraphRAG+Ollama 本地部署，保姆教程，踩坑无数，闭坑大法

2024-07-18

RAGFlow：基于OCR和文档解析的下一代 RAG 引擎

2024-05-05

RAG框架，都在这了!

2024-06-20

RAG 高效应用指南：Embedding 模型的选择和微调

2024-06-13

深入解析 Graph RAG：提升语言模型问答能力的创新策略

2024-07-09

微软开源的GraphRAG解读

2024-07-09

基于Llama 3 构建RAG语音助手：将本地 RAG 与 Qdrant、Whisper 和 LangChain 集成

2024-05-19

Prompt工程师必备：复旦重磅 | 最佳RAG实践长什么样的？

2024-07-07

大家都在问

RAG比之MCP或长上下文LLM，要没落了吗？

2025-04-26

HR AI小科普——什么是MCP？

2025-04-25

RAG应用必备！10种向量数据库全解析、Weaviate、Milvus、pgvector、Qdrant等热门工具谁更强？

2025-04-22

18种RAG技术大比拼：谁才是检索增强生成的最佳选择？

2025-04-22

大模型能像专业分析师一样提取用户需求吗？

2025-04-20

RAG vs. CAG vs. Fine-Tuning：如何为你的大语言模型选择最合适的“脑力升级”？

2025-04-19

什么是RAG与为什么要RAG？

2025-04-18

真实场景下落地RAG的十条建议及RAG中如何提升个性化？

2025-04-16

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS 提示词框架提示词技巧 AI+电商 AI面试数字员工 ChatBI 知识管理开源大模型智能营销智能硬件智能化改造 AI+医疗 MaxKB