AI知识库

53AI知识库

学习大模型的前沿技术与行业应用场景


开源AI项目推荐:基于 LLM 大语言模型的知识库问答系统 MaxKB
发布日期:2024-07-02 08:13:23 浏览次数: 2436 来源:langchain


背景介绍

MaxKB 是FIT2CLOUD飞致云旗下的开源项目,该项目是一款基于 LLM 大语言模型的知识库问答系统。MaxKB的产品命名内涵为“Max Knowledge Base”,为用户提供强大的学习能力和问答响应速度,致力于成为企业的最强大脑。提到飞致云,可能很多人不了解,但是这家公司却是在开源方面做的非常出色的“中小公司”,比不上BAT惊动世俗的产品,但是他家的产品是实实在在解决一些数据分析、管理和应用层面的企业痛点。他们家开源的以下产品,一定值得你去了解。

  • 1Panel - 现代化、开源的 Linux 服务器运维管理面板

  • Halo - 强大易用的开源建站工具

  • JumpServer - 广受欢迎的开源堡垒机

  • DataEase - 人人可用的开源数据可视化分析工具

  • MeterSphere - 现代化、开源的测试管理及接口测试工具

和MaxKB类似的产品还有QAnything、Danswer、Dify等,后续的文章会逐一解读。

项目优势与不足

  1. 产品开箱即用。支持直接上传已有文档,或者利用系统自带的爬虫功能自动获取在线资源。提供自动或者高级定制的文档导入,拆分和向量化能力一旦文档被导入,MaxKB会自动进行文本处理,包括拆分和向量化,以便快速有效地检索信息。

  2. 知识高度定制化。对于导入和拆分的文档提供预览以及二次编辑能力,有效提升知识库的质量。

3. 方便易用的QA问答面板搭建流程。可以轻松的零成本搭建一个QA的问答窗口,而且自带定制热门问题形式,交互体验好。

4. 无缝嵌入三方系统。还可以做成一个浮动窗口放在自己的网站侧边栏,快速搭建一个在线智能问答入口面板。

5. 多模型支持。支持对接主流的大模型,包括本地私有大模型(如 Llama 2、Llama 3)、通义千问、OpenAI、Azure OpenAI、Kimi 和百度千帆大模型等。

7. 安全性高。支持私有化部署,满足企业内部的自建需要。

8. 自带权限管理:可以通过分配和管理账号,并对知识库和应用做权限管理,方便企业内部的数据和业务权限隔离。

唯一觉得遗憾的是该开源项目采用GPL-3.0协议,商业白嫖党可能会面临法律问题,当然了,如果是企业自用,那问题不大。

实操体验

快速安装

docker run -d --name=maxkb -p 8080:8080 -v ~/.data:/var/lib/postgresql/data cr2.fit2cloud.com/1panel/maxkb

安装完毕后,可访问localhost:8080页面

默认用户名/密码:admin/MaxKB@123..

产品使用

可以说这个配置是相当全面而且易操作了。支持推荐候选问题、多轮对话,问题自动优化能力

支持了向量检索、全文检索和混合检索三种召回模式。

知识库的分段信息视化。

支持对预设问题采用固定的分段文档回答,可以帮我们定制一些高精准的知识

当然了,对于RAG还可以直接测试效果,可观察性友好很多。

回到之前创建的应用里,我们可以配置对应的知识库,而且也可以很直观的看到对应的监控统计信息,这谁受得了,你想要的都给你考虑好了。

一个chatGPT页面就这么出来了

当然,我们还可以将其以frame形式嵌入到第三方平台中,建站QA省了!

两个字:实在!

还可以对知识库和应用做权限管控。

粗略体验下,还有一些BUG,另外对于问题回答的效果和QAnything感觉上还有些差距,不过MaxKB主打一个实用,期待后续有更多哇塞的功能推出。

·技术略读

源码地址:https://github.com/1Panel-dev/MaxKB

技术栈:

  • 前端:Vue.js

  • 后端:Python / Django

  • LangChain:LangChain

  • 向量数据库:PostgreSQL / pgvector

  • 支持大模型:Azure OpenAI、OpenAI、百度千帆大模型、Ollama、通义千问、Kimi、智谱 AI、讯飞星火

项目的本质还是RAG架构那一套。通过对本地或者在线的文档做切分,然后向量化,最终辅助LLM召回并生成知识。技术架构如下:


53AI,企业落地应用大模型首选服务商

产品:大模型应用平台+智能体定制开发+落地咨询服务

承诺:先做场景POC验证,看到效果再签署服务协议。零风险落地应用大模型,已交付160+中大型企业

大家都在问

联系我们

售前咨询
186 6662 7370
预约演示
185 8882 0121

微信扫码

与创始人交个朋友

回到顶部

 
扫码咨询