AI知识库

53AI知识库

学习大模型的前沿技术与行业应用场景


用DeepSeek-R1和AntSK打造企业级本地知识库:手把手保姆级教程

发布日期:2025-02-08 12:59:51 浏览次数: 2546 来源:许泽宇的技术分享
推荐语

探索国产AI大模型DeepSeek的本地化部署,打造企业级知识库的实战指南。

核心内容:
1. DeepSeek模型的技术实力与行业地位
2. 安装AntSK工具及其环境要求
3. 详细步骤指导,从下载到配置本地知识库

杨芳贤
53A创始人/腾讯云(TVP)最具价值专家

    近年来,人工智能领域风起云涌,各种新技术不断涌现。其中,DeepSeek凭借其强大的技术实力和优秀的产品性能,成为了业界关注的焦点。这家低调的公司凭借千亿级参数模型,以0.5元/百万tokens的成本,91.5%的中文基准测试得分,及推理效率提升5倍的成绩,刷新了人们对国产大模型的认知。

DeepSeek的大模型不仅被誉为“国产之光”,更被视为普惠AI时代的开端。无论是用于文章写作、决策支持,还是充满创意的心理测试(如算命),DeepSeek的应用场景都广泛而多样。破局圈友们迅速行动,探索如何借助DeepSeek本地化部署打造属于自己的私有知识库。以下是一份详细教程,帮助你实现这一目标。

安装AntSK

一、下载和安装AntSK

    要开始本地搭建知识库,首先需要安装AntSK工具。AntSK是一个功能强大的工具,能够极大简化知识库的创建和管理。你可以通过以下链接获取AntSK的安装包:

下载并安装AntSK 一件部署包


夸克网盘地址:「AntSK0.5.6.zip」,

链接:https://pan.quark.cn/s/fe05fa270cd0


百度网盘地址:AntSK0.5.6.zip

链接: https://pan.baidu.com/s/1WUw2msKR2N2A99-OrR1NEw 提取码: zfh3


   下载完成后,你需要安装.net core环境以确保AntSK能够正常运行。你可以通过以下链接下载最新版本的.net core:
https://dotnet.microsoft.com/zh-cn/download/dotnet/8.0


二、安装指导

  1. 下载AntSK安装包:通过上面的网盘链接下载AntSK的.zip文件,并解压至本地指定目录。

  2. 安装.NET Core:根据操作系统需求,下载并安装对应版本的.net core。详细安装说明可参见官方网站提供的指导文档。

  3. 配置AntSK:在解压目录找到安装可执行文件(AntSK.exe),双击运行,并根据提示完成基本配置。


安装Ollama

Ollama是一款开源本地化工具,非常适合大模型在个人计算机或服务器上的运行和部署。通过Ollama,你可以轻松部署多种开源语言大模型(如DeepSeek、Llama等),而无需依赖云端服务或者复杂的配置流程。

  • 官方网站
https://ollama.com/ 


安装deepseek-r1模型

在ollama官网首页的搜索框,点击一下即可看到deepseek-r1在第一个位置,可见热度之高啊!

https://ollama.com/library/deepseek-r1

可以看到模型有根据参数分为1.5b,7b,8b,14b,32b,70b,671b等,我们需要根据自己电脑选择下载对应参数的模型。

选择好要下载的模型后,执行右边的 ollama run deepseek-r1 即可

使用AntSK创建知识库
我们启动AntSK后 浏览器打开
http://localhost:5000
系统默认的账号密码是  admin   xuzeyu  ,如果想修改可以在appsettings.json中进行修改
登录进去后,我们点击模型先来添加deepseek的模型
另外我们还需要一个向量模型


创建好模型以后我们可以来创建知识库
创建完成以后,我们可以导入文档

创建应用
创建完知识库后 我们可以创建一个知识库的应用

然后我们就可以对话了

硅基流动API
如果你的本地配置不够,你也可以使用硅基流动API
https://cloud.siliconflow.cn/i/le7XQKIM
在这里进行注册
注册后,我们可以使用openai的兼容格式来配置硅基流动的API

53AI,企业落地大模型首选服务商

产品:场景落地咨询+大模型应用平台+行业解决方案

承诺:免费场景POC验证,效果验证后签署服务协议。零风险落地应用大模型,已交付160+中大型企业

联系我们

售前咨询
186 6662 7370
预约演示
185 8882 0121

微信扫码

和创始人交个朋友

回到顶部

 

加载中...

扫码咨询