我要投稿

如何花3400配置一台室内无噪音，48GB显存的深度学习服务器？

发布日期：2024-06-29 12:05:13 浏览次数： 2571 来源：3D视觉之心

前言 22 年配置了一套 X299 主板加双 3090 显卡服务器，发现除了显卡，其它性能都远远过剩，完全没有体现出性价比，加上最近大模型比较火，就想着配置一套能跑和微调通义千问的服务器玩玩。

作者：wenjtop

来源：PaperWeekly

仅用于学术分享，若侵权请联系删除

配置

目前配置一共花了 3400（双 P40 显卡），不追求完美 3000 应该也能配下来。p40 性能大约在 1080ti 左右，3090 的 1/2，4090 的 1/4。去年 23 年底大约 650 一张，现在（24 年初）涨到到900左右。

▲ 购买记录

注意事项：

机箱一定要买大板机箱，插7显卡槽的。
购买 e5 一定要看 CPU 能支持内存的频率。
cpu 够用就行，不用花大价钱，对模型训练和推理影响不大。
显卡需要两个 4p 转化成 8p 的转换线，需要购买转接线。
p40 是主动散热，不改水冷，可以加风扇。
p40 显卡不支持视频输出，需要购买亮机卡，后期 4 卡需要拆掉。
亮机器一般只支持 1080p，如果你显示器 2K，4K，就需要支持 2K，4K 的显示器。
华南金牌 X99-f8 支持 3 显卡，一定要提前计算显卡厚度和主板卡槽之间的宽度。
针对老的架构的主板，一定要看主板是否支持 above 4g，支持才能用大显存显卡。

组装

2.1 更换电源风扇

重新购买的电源风扇更换，更换流程，拆掉 8 个螺丝，去掉保护罩，断开风扇供电线，更换风扇，组装电源。

2.2 主板接线方式

https://www.bilibili.com/video/BV1y34y1G7cq/?spm_id_from=333.337.search-card.all.click

2.3 内存插入方式

优先：1358 卡槽，可以组成多通道。

2.4 显卡供电方式

具体接线方式见下图，转接线可以在淘宝购买。

2.5 开机Bios设置

开机按 del 键，选择 Advanced 选项，打开 above 4g，才能正常开机、识别显卡。

系统

3.1 下载 Ubuntu 20.04 LTS

https://ubuntu.com/download/desktop

3.2 制作 u 盘启动，

常用的两个 u 启动制作工具 UltraISO（https://cn.ultraiso.net/xiazai.html）和 Rufus（https://rufus.ie/zh/），把 Ubuntu 系统烧录在 U 盘后插需要安装的电脑。

3.3 安装 ubuntu

一键 u 启动（以主板为准，安装过程省略）。

环境

4.1 判断有误识别P40显卡

sudo lshw -C display

4.2 禁用 nouveau

自带显卡驱动会和我们需要安装的驱动发生冲突，需要禁用 nouveau。

sudo gedit /etc/modprobe.d/blacklist_nouveau.conf

输入下面内容，保存重启：

blacklist nouveau
options nouveau modeset=0

4.3 其它深度学习环境参考下文，非常详细：

安装过程中如果出现缺少 gcc 或者 gcc 冲突，可尝试下面命令：

sudo apt update
sudo apt-get install build-essential

https://zhuanlan.zhihu.com/p/496107394

展示

▲ 通义千问生成小故事

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费场景POC验证，效果验证后签署服务协议。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2025-03-29

双卡 RTX 5090 深度体验：AI 推理框架选择与性能限制实测

2025-03-29

【PH测评】BrowserAgent：让AI工作流在浏览器中无限奔跑

2025-03-29

4090单卡运行Deepseek r1:671B满血版

2025-03-28

Tavily MCP Server深度解析：如何用Cline打造智能搜索神器？

2025-03-28

高德地图全面接入MCP协议：开启AI智能体与地理服务的无缝协作元年！

2025-03-28

国人 AI 助手神器 Cherry Studio+MCP实现数据库查询超详细流程！

2025-03-27

Ubuntu24.04+RTX 3060+Ollama快速部署DeepSeek

2025-03-27

DeepSeek本地部署硬件配置方案：高性价比版、信创版、工作站版

了解更多

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

万字长文解析：大模型需要怎样的硬件算力

2024-03-30

大模型训练及推理【硬件选型指南】及 GPU 通识

2024-05-09

【不看后悔】一文梳理端侧模型和小模型

2024-07-07

华为昇腾910B与英伟达B200性能对比

2024-07-23

NVIDIA消费级显卡4060/4090 AI训练能效比较

2024-07-01

私有化部署大模型非常重要环节：国产显卡和英伟达显卡到底该如何选择？

2024-06-23

对比A100和4090：两者的区别以及适用点

2024-06-24

一文带你看懂英伟达A100、H100、A800、H800、H20系列

2025-02-12

手把手教你免费把AI大模型接入小米音箱，无需任何代码基础，小白级基础详细操作教程！

2024-10-20

小爱音箱大变身：接入 ChatGPT 和豆包，轻松打造专属 AI 语音助手！

2024-06-08

大家都在问

Tavily MCP Server深度解析：如何用Cline打造智能搜索神器？

2025-03-28

Claude Desktop- AI大模型+MCP Server结合，能够带给你哪些无限可能？

2025-03-26

罗永浩的AI新战场，能否打破“行业冥灯”魔咒？

2025-03-13

Mac Studio 首发实测：10 万块的顶配 Mac，能跑满血版 DeepSeek 吗？

2025-03-12

【一文看懂】什么是端侧算力？

2025-03-10

一文读懂：AI时代为什么需要DPU？

2025-03-10

大力出奇迹，苹果发售 10 万块的 Mac Studio M3 Ultra 能干什么？

2025-03-09

AI全息透明显示音箱，会是音箱市场的“哪吒”吗？

2025-03-04

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS 提示词框架提示词技巧 AI+电商 AI面试数字员工 ChatBI 知识管理开源大模型智能营销智能硬件智能化改造 AI+医疗 MaxKB

如何花3400配置一台室内无噪音，48GB显存的深度学习服务器？

配置

组装

2.1 更换电源风扇

2.2 主板接线方式

2.3 内存插入方式

2.4 显卡供电方式

2.5 开机Bios设置

系统

3.1 下载 Ubuntu 20.04 LTS

3.2 制作 u 盘启动，

常用的两个 u 启动制作工具 UltraISO（https://cn.ultraiso.net/xiazai.html） 和 Rufus（https://rufus.ie/zh/），把 Ubuntu 系统烧录在 U 盘后插需要安装的电脑。

3.3 安装 ubuntu

一键 u 启动（以主板为准，安装过程省略）。

环境

4.1 判断有误识别P40显卡

4.2 禁用 nouveau

4.3 其它深度学习环境参考下文，非常详细：

▲ 通义千问生成小故事

常用的两个 u 启动制作工具 UltraISO（https://cn.ultraiso.net/xiazai.html）和 Rufus（https://rufus.ie/zh/），把 Ubuntu 系统烧录在 U 盘后插需要安装的电脑。