微信扫码
与创始人交个朋友
我要投稿
背景介绍
MaxKB 是FIT2CLOUD飞致云旗下的开源项目,该项目是一款基于 LLM 大语言模型的知识库问答系统。MaxKB的产品命名内涵为“Max Knowledge Base”,为用户提供强大的学习能力和问答响应速度,致力于成为企业的最强大脑。提到飞致云,可能很多人不了解,但是这家公司却是在开源方面做的非常出色的“中小公司”,比不上BAT惊动世俗的产品,但是他家的产品是实实在在解决一些数据分析、管理和应用层面的企业痛点。他们家开源的以下产品,一定值得你去了解。
1Panel - 现代化、开源的 Linux 服务器运维管理面板
Halo - 强大易用的开源建站工具
JumpServer - 广受欢迎的开源堡垒机
DataEase - 人人可用的开源数据可视化分析工具
MeterSphere - 现代化、开源的测试管理及接口测试工具
和MaxKB类似的产品还有QAnything、Danswer、Dify等,后续的文章会逐一解读。
项目优势与不足
产品开箱即用。支持直接上传已有文档,或者利用系统自带的爬虫功能自动获取在线资源。提供自动或者高级定制的文档导入,拆分和向量化能力一旦文档被导入,MaxKB会自动进行文本处理,包括拆分和向量化,以便快速有效地检索信息。
知识高度定制化。对于导入和拆分的文档提供预览以及二次编辑能力,有效提升知识库的质量。
3. 方便易用的QA问答面板搭建流程。可以轻松的零成本搭建一个QA的问答窗口,而且自带定制热门问题形式,交互体验好。
4. 无缝嵌入三方系统。还可以做成一个浮动窗口放在自己的网站侧边栏,快速搭建一个在线智能问答入口面板。
5. 多模型支持。支持对接主流的大模型,包括本地私有大模型(如 Llama 2、Llama 3)、通义千问、OpenAI、Azure OpenAI、Kimi 和百度千帆大模型等。
7. 安全性高。支持私有化部署,满足企业内部的自建需要。
8. 自带权限管理:可以通过分配和管理账号,并对知识库和应用做权限管理,方便企业内部的数据和业务权限隔离。
唯一觉得遗憾的是该开源项目采用GPL-3.0协议,商业白嫖党可能会面临法律问题,当然了,如果是企业自用,那问题不大。
实操体验
快速安装
docker run -d --name=maxkb -p 8080:8080 -v ~/.data:/var/lib/postgresql/data cr2.fit2cloud.com/1panel/maxkb
安装完毕后,可访问localhost:8080页面
默认用户名/密码:admin/MaxKB@123..
产品使用
可以说这个配置是相当全面而且易操作了。支持推荐候选问题、多轮对话,问题自动优化能力
支持了向量检索、全文检索和混合检索三种召回模式。
知识库的分段信息可视化。
支持对预设问题采用固定的分段文档回答,可以帮我们定制一些高精准的知识
当然了,对于RAG还可以直接测试效果,可观察性友好很多。
回到之前创建的应用里,我们可以配置对应的知识库,而且也可以很直观的看到对应的监控统计信息,这谁受得了,你想要的都给你考虑好了。
一个chatGPT页面就这么出来了
当然,我们还可以将其以frame形式嵌入到第三方平台中,建站QA省了!
两个字:实在!
还可以对知识库和应用做权限管控。
粗略体验下,还有一些BUG,另外对于问题回答的效果和QAnything感觉上还有些差距,不过MaxKB主打一个实用,期待后续有更多哇塞的功能推出。
·技术略读
源码地址:https://github.com/1Panel-dev/MaxKB
技术栈:
前端:Vue.js
后端:Python / Django
LangChain:LangChain
向量数据库:PostgreSQL / pgvector
支持大模型:Azure OpenAI、OpenAI、百度千帆大模型、Ollama、通义千问、Kimi、智谱 AI、讯飞星火
项目的本质还是RAG架构那一套。通过对本地或者在线的文档做切分,然后向量化,最终辅助LLM召回并生成知识。技术架构如下:
53AI,企业落地应用大模型首选服务商
产品:大模型应用平台+智能体定制开发+落地咨询服务
承诺:先做场景POC验证,看到效果再签署服务协议。零风险落地应用大模型,已交付160+中大型企业
2024-08-22
基于开源MaxKB构建大语言模型的本地知识库系统
2024-08-08
无缝融入,即刻智能[2]:MaxKB内置强大工作流引擎,编排AI工作流程,满足多样化业务需求
2024-06-21
【16/100个AI应用体验】MaxKB,可能是当前最友好的国内开源知识库管理工具
2024-05-19
量化大模型在规模和精度上的能力 | 负面情绪刺激也能增强大模型?| 探索Softmax的前沿....
2024-05-05
MaxKB 是基于 LLM 大语言模型的知识库问答系统,30 分钟内可上线,支持上传文档、自动爬取在线文档等,可零编码嵌入第三方业务系统,介绍了其实现原理包括向量相似度、搜索索引、重新排序等
2024-04-28
MaxKB 添加本地大语言模型(LLM)创建智能问答应用
2024-04-28
AI | 基于 MaxKB+Ollama+Llama3 手把手从0-1构建本地私有化知识库
2024-04-25
操作教程丨MaxKB+Ollama:快速构建基于大语言模型的本地知识库问答系统
2024-04-25
2024-04-28
2024-04-28
2024-04-25
2024-04-16
2024-07-02
2024-04-23
2024-05-19
2024-05-05
2024-04-12