项目简介

RAGapp^[1] 是一个基于 Agentic RAG（Retrieval-Augmented Generation）模型的企业级应用，旨在简化企业使用 Agentic RAG 模型的过程。

项目提供了一个简单的 Docker 部署方式，允许用户在自己的云基础设施中部署和配置 RAGapp，项目由 LlamaIndex^[2] 构建。

使用场景

• 企业内部需要使用先进的 AI 模型来增强业务流程或提供智能服务。
• 需要在本地云基础设施中部署 AI 模型，以保证数据安全和合规性。
• 需要一个易于配置和管理的界面来操作 AI 模型。

使用方法

快速开始

要运行RAGapp，可以使用以下命令启动一个Docker容器：

docker run -p 8000:8000 ragapp/ragapp

启动后，可以通过访问http://localhost:8000/admin来配置你的RAGapp的Admin UI。

支持的AI模型

可以使用OpenAI或Gemini提供的托管AI模型，也可以使用Ollama^[3]提供的本地模型。

暴露的端点

Docker容器公开了以下端点：

• Admin UI: http://localhost:8000/admin
• Chat UI: http://localhost:8000
• API: http://localhost:8000/docs

请注意，Chat UI和API只有在RAGapp配置完成后才能正常工作。

安全性

RAGapp默认不包含任何认证层。为了确保你的RAGapp安全，请在你的环境中保护/admin路径。

部署方式

使用Docker Compose

RAGapp提供了一个docker-compose.yml文件，以便在自己的基础设施中轻松部署RAGapp与Ollama和Qdrant^[4]。

使用MODEL环境变量，可以指定要使用的模型，例如llama3：

MODEL=llama3 docker-compose up

如果没有指定MODEL变量，默认使用的模型是phi3，它比llama3功能较弱，但下载速度更快。

注意：docker-compose.yml文件中的setup容器将把选定的模型下载到ollama文件夹中，这可能需要几分钟时间。

使用OLLAMA_BASE_URL环境变量，可以指定要使用的Ollama主机。如果没有指定OLLAMA_BASE_URL变量，默认指向由Docker Compose启动的Ollama实例（http://ollama:11434）。

如果正在运行本地Ollama实例，可以通过设置OLLAMA_BASE_URL变量将其连接到RAGapp：

MODEL=llama3 OLLAMA_BASE_URL=http://host.docker.internal:11434 docker-compose up

如果在macOS上运行RAGapp，这将非常有用，因为Docker for Mac不支持GPU加速。

Kubernetes

在自己的云基础设施中部署RAGapp也很容易。定制的Kubernetes部署即将推出。

注：本文内容仅供参考，具体项目特性请参照官方 GitHub 页面的最新说明。