微信扫码
与创始人交个朋友
我要投稿
2024年4月12日,1Panel开源项目组正式对外介绍了其官方出品的开源子项目——MaxKB(github.com/1Panel-dev/MaxKB)。MaxKB是一款基于LLM(Large Language Model)大语言模型的知识库问答系统。MaxKB的产品命名内涵为“Max Knowledge Base”,为用户提供强大的学习能力和问答响应速度,致力于成为企业的最强大脑。
2024年4月16日,MaxKB成功登顶GitHub Trending主榜单,自项目发布后快速收获超过1,800个Star和超过5,000次下载。有社区用户反馈,已经成功将MaxKB部署到其产品官网,以低成本的方式打造出一个贴身的官方AI客服。
除了基于OpenAI、百度千帆大模型等在线大模型快速搭建知识库问答系统外,MaxKB还支持与以Ollama为代表的本地私有大模型相结合,快速部署本地的知识库问答系统。
本文为您详细介绍通过1Panel应用商店(apps.fit2cloud.com/1panel)快速部署MaxKB和Ollama,在MaxKB中接入Ollama的LLM模型,以及快速上线企业知识库小助手的具体方法。
1. MaxKB安装部署
部署方式一:通过1Panel应用商店,快速安装MaxKB应用。
部署方式二:命令行安装。
docker run -d --name=maxkb -p 8080:8080 -v ~/.maxkb:/var/lib/postgresql/data 1panel/maxkb# 用户名: admin# 密码: MaxKB@123..
2. Ollama安装部署
Ollama(github.com/ollama)是一个开源框架,它支持用户通过本地部署的方式构建大语言模型服务。目前,Ollama支持的大语言模型包括LIama 2、Mistral、Gemma等。
通过1Panel应用商店,您可以快速安装Ollama。
3. 在MaxKB中接入Ollama的大语言模型
第一步:登录至MaxKB系统
在1Panel应用商店的“已安装”选项卡中,找到MaxKB应用面板,点击应用名下方的“服务端口”选项打开MaxKB应用页面,即可使用默认的账户名和密码登录至MaxKB。
第二步:接入Ollama LLM模型
进入MaxKB的“系统设置”菜单,在“模型设置”页面中选择添加“Ollama”模型,并且填写模型的具体信息。点击“添加”按钮后,系统会自动下载部署Ollama模型。
除Ollama外,MaxKB还支持对接百度千帆大模型、Azure OpenAI和OpenAI模型,详细步骤可以参考MaxKB官方文档。
4. 制作企业知识库小助手
我们以制作DataEase小助手为例,为您演示通过MaxKB和Ollama构建知识库问答系统的过程。
第一步:在MaxKB中创建DataEase在线知识库
DataEase在线文档地址为:https://dataease.io/docs/。
在MaxKB应用界面中,点击“知识库”菜单,选择创建知识库,填写相关信息后创建并导入知识库。在“知识库类型”选项中,离线文档选择“通用型”类型,在线文档选择“Web站点”类型。知识库创建界面如下:
MaxKB支持用户使用文档列表查看导入的文本数据。系统会自动爬取根地址及子地址的文本数据,按照URL地址生成文档,并自动拆分和进行向量化处理。
第二步:在MaxKB中创建DataEase小助手应用
在MaxKB的“应用”菜单中,选择创建应用,并填写相关的应用信息,操作界面如下:
DataEase小助手创建完成后,可以在MaxKB“应用”菜单中的“应用”列表中点击对应应用的演示图标进行调试和预览。
DataEase小助手对话演示页面如下:
5. 将企业小助手嵌入到第三方业务系统中
接下来,我们将DataEase小助手嵌入到DataEase在线文档中。
回到MaxKB“应用”菜单中,点击DataEase小助手应用面板,进入该应用的“概览”页面。在概览页面打开“嵌入第三方”选项。
复制“浮窗模式”下方的脚本,加入到DataEase在线文档的文件中,即可将DataEase小助手嵌入至对应的页面中。
DataEase小助手嵌入在线文档后的效果如下:
6. 视频演示:30分钟上线基于大语言模型的知识库问答系统
53AI,企业落地应用大模型首选服务商
产品:大模型应用平台+智能体定制开发+落地咨询服务
承诺:先做场景POC验证,看到效果再签署服务协议。零风险落地应用大模型,已交付160+中大型企业
2024-08-22
基于开源MaxKB构建大语言模型的本地知识库系统
2024-08-08
无缝融入,即刻智能[2]:MaxKB内置强大工作流引擎,编排AI工作流程,满足多样化业务需求
2024-07-02
开源AI项目推荐:基于 LLM 大语言模型的知识库问答系统 MaxKB
2024-06-21
【16/100个AI应用体验】MaxKB,可能是当前最友好的国内开源知识库管理工具
2024-05-19
量化大模型在规模和精度上的能力 | 负面情绪刺激也能增强大模型?| 探索Softmax的前沿....
2024-05-05
MaxKB 是基于 LLM 大语言模型的知识库问答系统,30 分钟内可上线,支持上传文档、自动爬取在线文档等,可零编码嵌入第三方业务系统,介绍了其实现原理包括向量相似度、搜索索引、重新排序等
2024-04-28
MaxKB 添加本地大语言模型(LLM)创建智能问答应用
2024-04-28
AI | 基于 MaxKB+Ollama+Llama3 手把手从0-1构建本地私有化知识库
2024-04-25
2024-04-28
2024-04-28
2024-04-25
2024-04-16
2024-07-02
2024-04-23
2024-05-19
2024-05-05
2024-04-12