微信扫码
添加专属顾问
我要投稿
技术栈:Omllama + Llama3 + MaxKB
Omllama:是一个开源的大型语言模型服务工具,用户只需执行一条命令即可在本地运行开源大型语言模型。
Llama3:是Meta(原Facebook)旗下最新的大语言模型,Llama 3已经开放了80亿(8B)和700亿(70B)两个参数版本。
MaxKB:是一款基于 LLM 大语言模型的知识库问答系统。MaxKB = Max Knowledge Base,旨在成为企业的最强大脑。
部署Omllama:
ollama目前Windows/linux等全平台支持,且支持docker方式部署,这里演示mac版。
直接通过下方链接地址下载,然后根据提示下一步安装即可。
项目地址:https://github.com/ollama/ollama
运行Llama3:
ollama支持的大模型很多,除了llama3,可以根据自己的需要选择:
我的Mac系统只有16G,所以这里选择8B版的,也是默认模型。打开terminal:
ollama run llama3
首次运行需要下载,大小4.7GB,后期再次运行不需要下载。
部署MaxKB:
直接通过docker部署:
docker run -d --name=maxkb -p 8080:8080 -v ~/.maxkb:/var/lib/postgresql/data 1panel/maxkb
访问本地8080端口:
先创建一个关于jumpserver的FAQ库:
创建后程序会自动抓取数据(文本或者网页),并进行模型优化,自动分段。
创建应用:
问答测试:
(问答系统结果)
(源文档内容)
经过简单的测试和微调,回答的速度非常快,而且准确,完全可以在企业中运用起来。
53AI,企业落地大模型首选服务商
产品:场景落地咨询+大模型应用平台+行业解决方案
承诺:免费场景POC验证,效果验证后签署服务协议。零风险落地应用大模型,已交付160+中大型企业
2025-03-29
如何让DeepSeek生成让人满意的回答?试试专业知识库
2025-03-29
腾讯IMA推出「知识号」:个人知识经济的第三极
2025-03-28
Dify + Notion 让你的个人知识库活起来
2025-03-28
【AI落地应用实战】DeepSeek + RagFlow + 本地私有知识库 构建本地知识库系统实战指南
2025-03-28
解锁数据新动能:从统一数据治理迈向企业级Data Agent
2025-03-26
揭秘:用大模型打造的企业合同智能审核系统,法务部门效率提升300%!
2025-03-25
Deepseek与法律专业大模型深度拆解——基于诉讼文书生成应用场景
2025-03-25
DeepSeek大模型+智能体检察办案可行性思路
2024-09-14
2025-01-23
2024-07-10
2024-11-07
2025-02-17
2024-04-24
2024-08-04
2024-06-23
2024-05-15
2024-07-10
2025-03-22
2025-03-17
2025-03-11
2025-03-09
2025-03-05
2025-03-01
2025-02-20
2025-02-17