微信扫码
与创始人交个朋友
我要投稿
RAGFlow[1] 是一款基于深度文档理解构建的开源 RAG(Retrieval-Augmented Generation)引擎。RAGFlow 可以为各种规模的企业及个人提供一套精简的 RAG 工作流程,结合大语言模型(LLM)针对用户各类不同的复杂格式数据提供可靠的问答以及有理有据的引用。
•基于深度文档理解[2],能够从各类复杂格式的非结构化数据中提取真知灼见。•真正在无限上下文(token)的场景下快速完成大海捞针测试。
•不仅仅是智能,更重要的是可控可解释。•多种文本模板可供选择
•文本切片过程可视化,支持手动调整。•有理有据:答案提供关键引用的快照并支持追根溯源。
•支持丰富的文件类型,包括 Word 文档、PPT、excel 表格、txt 文件、图片、PDF、影印件、复印件、结构化数据, 网页等。
•全面优化的 RAG 工作流可以支持从个人应用乃至超大型企业的各类生态系统。•大语言模型 LLM 以及向量模型均支持配置。•基于多路召回、融合重排序。•提供易用的 API,可以轻松集成到各类企业系统。
•2024-04-16 添加嵌入模型 BCEmbedding[3] 。•2024-04-16 添加 FastEmbed[4] 专为轻型和高速嵌入而设计。•2024-04-11 支持用 Xinference[5] 本地化部署大模型。•2024-04-10 为‘Laws’版面分析增加了底层模型。•2024-04-08 支持用 Ollama[6] 本地化部署大模型。•2024-04-07 支持中文界面。
•CPU >= 2 核•RAM >= 8 GB•Docker >= 24.0.0 & Docker Compose >= v2.26.1如果你并没有在本机安装 Docker(Windows、Mac,或者 Linux), 可以参考文档 Install Docker Engine[9] 自行安装。
1.确保 vm.max_map_count
不小于 262144 【更多[10]】:
如需确认 vm.max_map_count
的大小:
$ sysctl vm.max_map_count
如果 vm.max_map_count
的值小于 262144,可以进行重置:
# 这里我们设为 262144:$ sudo sysctl -w vm.max_map_count=262144
你的改动会在下次系统重启时被重置。如果希望做永久改动,还需要在 /etc/sysctl.conf 文件里把 vm.max_map_count
的值再相应更新一遍:
vm.max_map_count=262144
1.克隆仓库:
$ git clone https://github.com/infiniflow/ragflow.git
1.进入 docker 文件夹,利用提前编译好的 Docker 镜像启动服务器:
$ cd ragflow/docker$ chmod +x ./entrypoint.sh$ docker compose -f docker-compose-CN.yml up -d
核心镜像文件大约 15 GB,可能需要一定时间拉取。请耐心等待。
1.服务器启动成功后再次确认服务器状态:
$ docker logs -f ragflow-server
1.在你的浏览器中输入你的服务器对应的 IP 地址并登录 RAGFlow。上面这个例子中,您只需输入 http://IP_OF_YOUR_MACHINE 即可:未改动过配置则无需输入端口(默认的 HTTP 服务端口 80)。2.在 service_conf.yaml[11] 文件的 user_default_llm
栏配置 LLM factory,并在 API_KEY
栏填写和你选择的大模型相对应的 API key。
详见 ./docs/llm_api_key_setup.md[12]。
好戏开始,接着奏乐接着舞!
系统配置涉及以下三份文件:
•.env[13]:存放一些基本的系统环境变量,比如 SVR_HTTP_PORT
、MYSQL_PASSWORD
、MINIO_PASSWORD
等。•service_conf.yaml[14]:配置各类后台服务。•docker-compose-CN.yml[15]: 系统依赖该文件完成启动。
请务必确保 .env[16] 文件中的变量设置与 service_conf.yaml[17] 文件中的配置保持一致!
./docker/README[18] 文件提供了环境变量设置和服务配置的详细信息。请一定要确保 ./docker/README[19] 文件当中列出来的环境变量的值与 service_conf.yaml[20] 文件当中的系统配置保持一致。
如需更新默认的 HTTP 服务端口(80), 可以在 docker-compose-CN.yml[21] 文件中将配置 80:80
改为 <YOUR_SERVING_PORT>:80
。
所有系统配置都需要通过系统重启生效:
$ docker compose -f docker-compose-CN.yml up -d
如需从源码安装 Docker 镜像:
$ git clone https://github.com/infiniflow/ragflow.git$ cd ragflow/$ docker build -t infiniflow/ragflow:v0.2.0 .$ cd ragflow/docker$ chmod +x ./entrypoint.sh$ docker compose up -d
53AI,企业落地应用大模型首选服务商
产品:大模型应用平台+智能体定制开发+落地咨询服务
承诺:先做场景POC验证,看到效果再签署服务协议。零风险落地应用大模型,已交付160+中大型企业
2024-12-23
o1 pro “碾压式”洞察:世界顶尖免疫学专家被机器深度分析“惊醒”
2024-12-23
使用 Lang Chain 和 Lang Graph 构建多代理 RAG :分步指南 + Gemma 2
2024-12-23
RAG评估框架:RAG Triad框架及其实战
2024-12-22
2个简单技巧把 RAG 检索准确率从 50% 提高到 95 %
2024-12-22
Browser-Use + LightRAG Agent:可使用 LLM 抓取 99% 的网站
2024-12-22
Dynamic RAG实战:解决知识增强中的动态更新挑战
2024-12-21
构建行业RAG应用系统:金融、财务、保险、医疗等行业该怎么做?
2024-12-21
构建基于多智能体RAG的企业的AI应用程序
2024-07-18
2024-05-05
2024-06-20
2024-09-04
2024-05-19
2024-07-09
2024-07-09
2024-07-07
2024-07-07
2024-06-13
2024-12-21
2024-12-14
2024-12-01
2024-11-27
2024-11-25
2024-11-06
2024-11-06
2024-11-05