我要投稿

25.7k star! 用langchain-chatchat部署私有化RAG知识库

发布日期：2024-04-23 23:17:37 浏览次数： 2611 来源：AI技术实战

langchain-chatchat是一个基于 ChatGLM 等大语言模型与 Langchain 等应用框架实现，开源、可离线部署的检索增强生成(RAG)大模型知识库项目，采用Apache License，可以免费商用。该项目支持市面上主流的本地大语言模型和Embedding模型，支持开源的本地向量数据库。

以下是作者实测部署问答效果：

1.docker一键部署

不需要在宿主机上安装CUDA，但需要安装NVIDIA Driver以及NVIDIA Container Toolkit，安装方法参考https://docs.nvidia.com/datacenter/cloud-native/container-toolkit/latest/install-guide.html，接下来使用docker一键部署：

docker run -d --gpus all -p 8501:8501 --name langchain-chatchat registry.cn-beijing.aliyuncs.com/chatchat/chatchat:0.2.7

镜像43.1G，需要等待较长时间。部署成功后访问http://localhost:8501

2.聊天

聊天界面支持多种LLM，可以自己选择。但总体来说实现比较简单，没有账号管理与自动保存聊天等功能，设置的参数也不能保存，与之前介绍的247.2k star! 超强大的私有化ChatGPT，支持图像识别/文生图/语音输入/文本朗读，个人电脑可运行！相比逊色不少。

3.知识库

知识库的功能做的还不错，新建知识库时有多种Embedding模型可以选择：

支持多种文档格式和分词参数设置

问答前需要选择模型，并且选择一个知识库（一个知识库可以包含多个文档），作者找了一个新闻测试知识库问答，没有回答出来，知识库问答需要嵌入模型、分词参数和大模型结合使用，可能还是配置的不合理。

4.总结

个人感觉聊天的体验一般，知识库的功能设计还不错，但是问答的效果不太好，感兴趣的朋友可以留言讨论一下用哪些模型和参数能达到比较好的效果，也可以推荐一些实测效果较好的项目。

53AI，企业落地应用大模型首选服务商

产品：大模型应用平台+智能体定制开发+落地咨询服务

承诺：先做场景POC验证，看到效果再签署服务协议。零风险落地应用大模型，已交付160+中大型企业

160+中大型企业正在使用53AI

立即咨询预约演示

百度智能云邀53AI：共创AI新纪元，启航智能新时代

2024-05-27

钉钉恒星计划：53AI与百余位企业家及钉钉生态伙伴，共议“AI 浪潮下的新机遇”

2024-05-22

热点资讯

GraphRAG+Ollama 本地部署，保姆教程，踩坑无数，闭坑大法

2024-07-18

RAGFlow：基于OCR和文档解析的下一代 RAG 引擎

2024-05-05

RAG框架，都在这了!

2024-06-20

基于Llama 3 构建RAG语音助手：将本地 RAG 与 Qdrant、Whisper 和 LangChain 集成

2024-05-19

一文彻底搞懂大模型 - RAG（检索、增强、生成）

2024-09-04

微软开源的GraphRAG解读

2024-07-09

深入解析 Graph RAG：提升语言模型问答能力的创新策略

2024-07-09

Prompt工程师必备：复旦重磅 | 最佳RAG实践长什么样的？

2024-07-07

下一代 RAG 技术来了！微软正式开源 GraphRAG：大模型行业将迎来新的升级？

2024-07-07

GraphRAG：终极 RAG 引擎 - 语义搜索、嵌入、矢量搜索等等！

2024-07-08

大家都在问

构建行业RAG应用系统：金融、财务、保险、医疗等行业该怎么做？

2024-12-21

为什么分块在RAG技术中很重要？但又很没有存在感？

2024-12-14

比GraphRAG还好的LightRAG到底是何方神圣？

2024-12-01

企业级RAG应用的5大技术发展趋势，你准备好了吗？

2024-11-27

RAG搭建中，如何选择最合适的向量索引？

2024-11-25

RAG vs ICL：AI大模型的记忆术和临场发挥，谁才是最强辅助？

2024-11-06

企业如何从0到1构建RAG系统？