如何花3400配置一台室内无噪音，48GB显存的深度学习服务器？

作者 | wenjtop  编辑 | PaperWeekly

点击下方卡片，关注“自动驾驶之心”公众号

戳我-> 领取自动驾驶近15个方向学习路线

>>点击进入→自动驾驶之心『BEV感知』技术交流群

本文只做学术分享，如有侵权，联系删文

前言 22 年配置了一套 X299 主板加双 3090 显卡服务器，发现除了显卡，其它性能都远远过剩，完全没有体现出性价比，加上最近大模型比较火，就想着配置一套能跑和微调通义千问的服务器玩玩。

作者：wenjtop

来源：PaperWeekly

仅用于学术分享，若侵权请联系删除

配置

目前配置一共花了 3400（双 P40 显卡），不追求完美 3000 应该也能配下来。p40 性能大约在 1080ti 左右，3090 的 1/2，4090 的 1/4。去年 23 年底大约 650 一张，现在（24 年初）涨到到900左右。

▲ 购买记录

注意事项：

1. 机箱一定要买大板机箱，插7显卡槽的。

2. 购买 e5 一定要看 CPU 能支持内存的频率。

3. cpu 够用就行，不用花大价钱，对模型训练和推理影响不大。

4. 显卡需要两个 4p 转化成 8p 的转换线，需要购买转接线。

5. p40 是主动散热，不改水冷，可以加风扇。

6. p40 显卡不支持视频输出，需要购买亮机卡，后期 4 卡需要拆掉。

7. 亮机器一般只支持 1080p，如果你显示器 2K，4K，就需要支持 2K，4K 的显示器。

8. 华南金牌 X99-f8 支持 3 显卡，一定要提前计算显卡厚度和主板卡槽之间的宽度。

9. 针对老的架构的主板，一定要看主板是否支持 above 4g，支持才能用大显存显卡。

组装

2.1 更换电源风扇

重新购买的电源风扇更换，更换流程，拆掉 8 个螺丝，去掉保护罩，断开风扇供电线，更换风扇，组装电源。

2.2 主板接线方式

https://www.bilibili.com/video/BV1y34y1G7cq/?spm_id_from=333.337.search-card.all.click

2.3 内存插入方式

优先：1358 卡槽，可以组成多通道。

2.4 显卡供电方式

具体接线方式见下图，转接线可以在淘宝购买。

2.5 开机Bios设置

开机按 del 键，选择 Advanced 选项，打开 above 4g，才能正常开机、识别显卡。

系统

3.1 下载 Ubuntu 20.04 LTS

https://ubuntu.com/download/desktop

3.2 制作 u 盘启动，

常用的两个 u 启动制作工具 UltraISO（https://cn.ultraiso.net/xiazai.html） 和 Rufus（https://rufus.ie/zh/），把 Ubuntu 系统烧录在 U 盘后插需要安装的电脑。

3.3 安装 ubuntu

一键 u 启动（以主板为准，安装过程省略）。

▲ 以主板为准

环境

4.1 判断有误识别P40显卡

sudo lshw -C display

4.2 禁用 nouveau

自带显卡驱动会和我们需要安装的驱动发生冲突，需要禁用 nouveau。

sudo gedit /etc/modprobe.d/blacklist_nouveau.conf

输入下面内容，保存重启：

blacklist nouveau
options nouveau modeset=0

4.3 其它深度学习环境参考下文，非常详细：

安装过程中如果出现缺少 gcc 或者 gcc 冲突，可尝试下面命令：

sudo apt update
sudo apt-get install build-essential

https://zhuanlan.zhihu.com/p/496107394

展示

▲ 通义千问生成小故事

投稿作者为『自动驾驶之心知识星球』特邀嘉宾，欢迎加入交流！

① 全网独家视频课程

BEV感知、BEV模型部署、BEV目标跟踪、毫米波雷达视觉融合、多传感器标定、多传感器融合、多模态3D目标检测、车道线检测、轨迹预测、在线高精地图、世界模型、点云3D目标检测、目标跟踪、Occupancy、cuda与TensorRT模型部署、大模型与自动驾驶、Nerf、语义分割、自动驾驶仿真、传感器部署、决策规划、轨迹预测等多个方向学习视频（扫码即可学习）

网页端官网：www.zdjszx.com

② 国内首个自动驾驶学习社区

国内最大最专业，近3000人的交流社区，已得到大多数自动驾驶公司的认可！涉及30+自动驾驶技术栈学习路线，从0到一带你入门自动驾驶感知（2D/3D检测、语义分割、车道线、BEV感知、Occupancy、多传感器融合、多传感器标定、目标跟踪）、自动驾驶定位建图（SLAM、高精地图、局部在线地图）、自动驾驶规划控制/轨迹预测等领域技术方案、大模型、端到端等，更有行业动态和岗位发布！欢迎扫描下方二维码，加入自动驾驶之心知识星球，这是一个真正有干货的地方，与领域大佬交流入门、学习、工作、跳槽上的各类难题，日常分享论文+代码+视频

③【自动驾驶之心】技术交流群

自动驾驶之心是首个自动驾驶开发者社区，聚焦感知、定位、融合、规控、标定、端到端、仿真、产品经理、自动驾驶开发、自动标注与数据闭环多个方向，目前近60+技术交流群，欢迎加入！扫码添加汽车人助理微信邀请入群，备注：学校/公司+方向+昵称（快速入群方式）

④【自动驾驶之心】全平台矩阵