微信扫码
与创始人交个朋友
作者 | wenjtop 编辑 | PaperWeekly
点击下方卡片,关注“3D视觉之心”公众号
>>点击进入→3D视觉之心技术交流群
前言 22 年配置了一套 X299 主板加双 3090 显卡服务器,发现除了显卡,其它性能都远远过剩,完全没有体现出性价比,加上最近大模型比较火,就想着配置一套能跑和微调通义千问的服务器玩玩。
目前配置一共花了 3400(双 P40 显卡),不追求完美 3000 应该也能配下来。p40 性能大约在 1080ti 左右,3090 的 1/2,4090 的 1/4。去年 23 年底大约 650 一张,现在(24 年初)涨到到900左右。
▲ 购买记录
注意事项:
机箱一定要买大板机箱,插7显卡槽的。
购买 e5 一定要看 CPU 能支持内存的频率。
cpu 够用就行,不用花大价钱,对模型训练和推理影响不大。
显卡需要两个 4p 转化成 8p 的转换线,需要购买转接线。
p40 是主动散热,不改水冷,可以加风扇。
p40 显卡不支持视频输出,需要购买亮机卡,后期 4 卡需要拆掉。
亮机器一般只支持 1080p,如果你显示器 2K,4K,就需要支持 2K,4K 的显示器。
华南金牌 X99-f8 支持 3 显卡,一定要提前计算显卡厚度和主板卡槽之间的宽度。
重新购买的电源风扇更换,更换流程,拆掉 8 个螺丝,去掉保护罩,断开风扇供电线,更换风扇,组装电源。
https://www.bilibili.com/video/BV1y34y1G7cq/?spm_id_from=333.337.search-card.all.click
优先:1358 卡槽,可以组成多通道。
具体接线方式见下图,转接线可以在淘宝购买。
开机按 del 键,选择 Advanced 选项,打开 above 4g,才能正常开机、识别显卡。
https://ubuntu.com/download/desktop
sudo lshw -C display
自带显卡驱动会和我们需要安装的驱动发生冲突,需要禁用 nouveau。
sudo gedit /etc/modprobe.d/blacklist_nouveau.conf
输入下面内容,保存重启:
blacklist nouveau
options nouveau modeset=0
sudo apt update
sudo apt-get install build-essential
https://zhuanlan.zhihu.com/p/496107394
展示
53AI,大模型落地应用首选服务商
定位:开箱即用的大模型落地应用平台
承诺:先做场景POC验证,看到效果再签署服务协议。零风险落地应用大模型,已交付160+中大型企业
如果你看见AI对商业世界的变革,欢迎来和我们一起探索~
2024-07-01
腾讯AI Lab技术报告:一种以10亿人物角色驱动的新颖数据构造方法
2024-07-01
RAG坦途已现!DSPy,将会革命性改变RAG系统的构建方式
2024-07-01
扫码枪+AI:一扫生成药品信息卡片,说明书可以扔了!|AI 教程
2024-07-01
Jina Reranker v2:多语言支持、函数调用、代码搜索,超快推理!
2024-07-01
Quivr:开启个性化智能助理新纪元
2024-07-01
生成式智能体:人类行为的交互式模拟
2024-07-01
介绍了利用 AI 从文本生成 PowerPoint 演示文稿的新工具,比较了四种不同的 AI 服务,并阐述了其工作方式和使用步骤
2024-07-01
全新发布:LangGraph开启认知架构新纪元
2024-04-24
2024-05-14
2024-04-24
2024-04-23
2024-04-11
2024-04-26
2024-03-22
2024-03-29
2024-04-25
2024-04-12