AI知识库

53AI知识库

学习大模型的前沿技术与行业应用场景


用Llama3零成本构建私有AI知识库
发布日期:2024-04-26 12:50:14 浏览次数: 2986 来源:古哒哒研究所


今天的分享是关于如何零成本搭建一个私有的AI知识库,这个方案特别适用于那些面临大量产品知识需要记忆的销售人员。

我的一个朋友,一位中年转行到医疗器械公司的销售员,最近就和我聊到了这样的问题:产品种类繁多,技术参数复杂,要为客户推荐合适的产品,就需要有深厚的产品知识储备。这对于他来说是个挑战,因为除了要学习产品知识,还要面对领导的压力和业绩的挑战,这使得他的工作倍感压力。

于是我给他提出了一个建议:将产品说明和技术资料提供给AI,让AI来学习。这样,销售人员在推广产品时遇到问题,可以直接向AI咨询,或者让客户自己向AI提问,以了解他们适合哪种产品。这样的智能客服问答系统可以大大减轻基层销售人员的工作负担。

如果你也有类似的需求,那么接下来的方案可能会对你有所帮助。这个方案完全利用本地资源,不需要任何费用,并且可以轻松地嵌入到第三方平台,比如你自己公司的网站、微信小程序等等。

让我们先来看看这个知识库的效果。这里展示的是知识库中的一个产品说明截图为例,它包含了产品适用的病症的患病人群发病率数据。

现在,我将向AI提出一个问题,看看它如何回答。

看到了吗?AI不仅给出了答案,并指明了它是从哪个知识库中学习到这些信息的。

接下来,将向大家展示如何从零开始搭建这样一个系统。

这次使用的框架是MaxKB和Ollama分别提供前端UI和本地的免费大模型接口

安装Ollama

下载地址:https://ollama.com/download

下载之后双击安装即可。

然后打开CMD窗口输入命令:

ollama run llama3

开始自动下载llama3模型


安装MaxKB

docker run -d --name=maxkb -p 8080:8080 -v ~/.maxkb:/var/lib/postgresql/data 1panel/maxkb

在命令行输入以上命令部署docker服务

成功之后在浏览器访问:127.0.0.1:8000

进入到登录页面后输入默认用户名密码:

# 用户名: admin# 密码: MaxKB@123..

首次登陆后需要修改密码,然后进入设置页面配置大模型参数

模型名称随便取一个,模型类型只有一个默认选项,基础模型填写ollama中实际下载的模型名称,API域名填写安装ollama主机的地址,本机就填写127.0.0.1:11434,api key随便填点什么,然后保存

模型配置完开始创建知识库

知识库类型分两种通用性可以手工录入信息和上传数据文档,web站点是提供一个网址,然后系统爬取网页上的文字信息。

这里我们需要上传文档,就选通用型。

填写基本信息后点击上传文档,然后导入系统

导入后系统会对文档内容进行只能分段,速度很快,但精准度可能不如手工分段,这根据自己的需求来选择,这里演示智能分段


点击右下角导入

现在就可以根据这个知识库创建一个智能助手了

填写基本信息

添加知识库

点击创建

进入设置界面

进入一个调试设置页面

对比一下原文档的内容:

很ok

接下来就可以将这个应用分发给业务人员作为产品知识助手,也可以把这个应用接入公司网站或者微信小程序直接面对客户用作AI客服




53AI,企业落地应用大模型首选服务商

产品:大模型应用平台+智能体定制开发+落地咨询服务

承诺:先做场景POC验证,看到效果再签署服务协议。零风险落地应用大模型,已交付160+中大型企业

联系我们

售前咨询
186 6662 7370
预约演示
185 8882 0121

微信扫码

与创始人交个朋友

回到顶部

 
扫码咨询