• 对于最终用户：
• 一个干净且简约的用户界面，用于基于RAG的QA。
• 支持 LLM API 提供程序（OpenAI、AzureOpenAI、Cohere 等）和本地 LLM （ollama和llama-cpp-python的模型）
• 简单的安装脚本。
• 对于开发人员：
• 用于构建您自己的基于 RAG 的文档 QA 管道的框架。
• 使用提供的 UI（使用 Gradio 构建）自定义并查看 RAG 管道的运行情况。

使用界面

基于 Gradio 构建，您可以根据需要自由自定义/添加任何 UI 元素。此外，我们的目标是支持多种文档索引和检索策略。GraphRAG索引管道作为示例提供。

主要特点

• 托管您自己的文档 QA （RAG） web-UI。支持多用户登录，在私人/公共收藏中组织您的文件，与他人协作并分享您最喜欢的聊天。

• 整理你的LLM和嵌入模型。支持本地LLMs和流行的API提供商（OpenAI， Azure， Ollama， Groq）。

• 混合 RAG 管道。Sane 默认的 RAG 管道，带有混合（全文和向量）检索器 + 重新排名，以确保最佳检索质量。

• 多模式 QA 支持。通过数字和表格支持在多个文档上执行问答。支持多模态文档解析（UI 上的可选选项）。

• 通过文档预览推进引文。默认情况下，系统会提供详细的引文以确保 LLM 答案的正确性。直接在浏览器内的 PDF 查看器中查看您的引文（包括相关分数），并突出显示。当检索管道返回低相关文章时发出警告。

• 支持复杂的推理方法。使用问题分解来回答复杂/多跃点问题。使用 ReAct、ReWOO 和其他代理支持基于代理的推理。

• 可配置的设置 UI。您可以在UI上调整检索和生成过程的最重要方面（包括提示）。

• 可扩展。基于 Gradio 构建，您可以根据需要自由自定义/添加任何 UI 元素。此外，我们的目标是支持多种文档索引和检索策略。GraphRAG索引管道作为示例提供。

使用起来

在新的 python 环境中克隆并安装所需的软件包。

# optional (setup env)conda create -n kotaemon python=3.10conda activate kotaemon
# clone this repogit clone https://github.com/Cinnamon/kotaemoncd kotaemon
pip install -e "libs/kotaemon[all]"pip install -e "libs/ktem"

启动 Web 服务器：

python app.py

默认用户名/密码为：admin/admin .您可以直接在 UI 上设置其他用户。

进一步配置请查看：(可以方便的复制到新机器上，也可以在系统中替换自己的RAG模块)

https://github.com/Cinnamon/kotaemon

体验地址：

https://huggingface.co/spaces/taprosoft/kotaemon