支持私有云部署
AI知识库

53AI知识库

学习大模型的前沿技术与行业应用场景


2080ti实测部署DeepSeek 32B!内容创作效率翻倍,AI玩家必看!

发布日期:2025-03-19 04:26:27 浏览次数: 1524 来源:赵宇舰
推荐语

AI玩家必看!2080ti显卡实测部署DeepSeek 32B模型,内容创作效率翻倍!

核心内容:
1. 2080ti显卡桌面部署DeepSeek 32B模型详细教程
2. 2080ti性能实测:20tokens/s,满足个人内容创作需求
3. 个人部署VS网络版:数据安全与性价比的综合考量

杨芳贤
53A创始人/腾讯云(TVP)最具价值专家
摘要:本文主要是作者通过年前购买的一张2080ti 22G,通过桌面部署deepseek 32b的大模型的干货分享,本文也对32B版本的本地版进行一些简要测测评,通过测评看是否有商业化的性能表现。
一、通过ollama安装本地环境
  首先打开ollama的官网,点击Download
  然后点击windws ,再点击Download for Windows,下载并安装运行环境。

二、一键运行deepseek
  如上Windows版本的ollama运行环境安装好后,然后按Win+R,输入CMD,打开命令提示符,输入:
ollama run deepseek-r1:32b
  如上,笔者就完成安装并运行了,本次安装小插曲,有点小慢哦,笔者23点的时候运行该命令,由于服务端下行速度慢,接近5小时,便先睡觉去了,今天早上起来,发现已完成下载并运行起来了,在命令 提示符下运行,操作体验会差一些,因此我们chatbox进行对接。
三、结合chatbox使用
  首先下载chabox,我们打开官网,可以看到这个下载按钮(如下图框选),我们下载好后进行安装。
  我们打开chatgpt,配置如上配置,即可完成对接。
四、简要测评
  在2080ti 22G 显卡上,性能预估在20tokens/s,取决于上下文(动态7-21tokens/sa),本机配置说明:惠普z620 2697v2 *1 256GB,1T sata SSD ,GPU:2080 ti 22G 300A
五、商业化性能表现
  性能20tokens/s,在个人(自动)内容创作上是够用的,这个结果笔者很满意,大家如果在关注手上已有,或者即将采购的2080ti 表现和其他卡的对比,笔者建议性价比可以对标3090,其价格便宜较高;另外关于个人部署和网络版的版本的利弊,网络版的优势在于是满血版本的优势,即670B版,弊端在于数据会发向云端,数据安全无法得到保障,其二,近期网络繁忙,会影响内容创作的计划。
  因此,推荐大家采用2080ti 版本的个人部署。

53AI,企业落地大模型首选服务商

产品:场景落地咨询+大模型应用平台+行业解决方案

承诺:免费场景POC验证,效果验证后签署服务协议。零风险落地应用大模型,已交付160+中大型企业

联系我们

售前咨询
186 6662 7370
预约演示
185 8882 0121

微信扫码

添加专属顾问

回到顶部

加载中...

扫码咨询