DELL Precision T7920加装显卡遇到的坑

最新推荐文章于 2024-09-14 16:13:52 发布
最新推荐文章于 2024-09-14 16:13:52 发布
阅读量1.2w 收藏 18
点赞数 2
分类专栏： 服务器运维 文章标签： 服务器 gpu rtx
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_45520982/article/details/116695500
版权
本文记录了在DELL Precision T7920服务器上加装GeForce 3090显卡的过程，包括选购、确认PCIE插槽、电源功率、安装显卡时遇到的问题及解决方案，以及后续的驱动、CUDA和cuDNN的安装。在安装过程中，由于电源模组线不足、显卡尺寸限制和PCIE插槽使用限制等问题，经过努力最终成功安装并配置了运行环境。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

文章目录

DELL Precision T7920加装显卡

实验室由于显卡计算能力不够，以及显卡显存不够，请老师花了大价钱购入了两张GeForce 3090显卡。老师赛高！记录一下这次加装显卡过程中学到的一些知识。

服务器原有配置介绍

服务器原有一张1080Ti显卡，一个Xeon CPU。

选购过程

确认型号

其实选购过程非常简单，可以说是整个流程中最简单的一步了。首先确认需求，我们希望购买一张显存大一些的卡。接着，我们选择了一些候选方案，比如GeForce 3090，GeForce 2080Ti，Tesla P40等。查阅了有关资料之后，发现专业卡由于散热问题不适合放在塔式服务器中，所以打算购置GeForce 3090。京东查询价格在两万出头。

确认PCIE x16插槽

另外，需要先拆开机箱查看PCIE x16的槽数是否满足。3090需要占用3个槽位，1080Ti需要占用2个槽位。初步研究符合要求。

在这里插入图片描述

确认电源功率和电源线

一定要确认电源功率大于CPU+GPU的总功率！！！！

否则主板就爆炸了，带不起来。

安装过程

安装过程中碰到了非常多的问题。以下一一列举。

电源模组线不够多

1080Ti+3090共需要4根模组线。主板上预留了四个口，但是只有三根原装模组线。在询问了各种淘宝京东商家之后，由于他们都无法辨认DELL品牌机的电源型号，从而购线失败。不得已求问戴尔售后，戴尔售后太墨迹了。和技术售后扯皮了半个多小时，其中有80%的时间都在等待状态。最后，他说，可能有6pin转双8pin的模组线。我们说，可以！有就行了

最低0.47元/天 解锁文章
在 dell precision 7920 tower CentOS 8 Stream 上安裝nvidia驱动程序、Anaconda
chen9046的博客
10-13 842
简单记录一下如何在实验室dell precision 7920 tower CentOS 8 Stream上安装nvidia显卡驱动。
dell7920工作站安装Linux,戴尔工作站（Precision 7920）安装双系统win10+ubuntu18.04
weixin_39681161的博客
05-14 1737
*实验室的一台戴尔工作站，项目需要，安装双系统，搞了整整一天，和普通电脑安装还是有很多不同的，留下走过的坑。一、工作站配置型号：dellPrecision 7920 塔式工作站内存：128G磁盘：4T*2机械；2T NVMe固态显卡：2080Ti*2CPU:xeon silver 4216磁盘阵列：无二、安装过程安装win10操作系统给ubuntu分配硬盘空间安装ubuntu三、几个坑1.in...
Tesla M40 训练机组装与散热改造
里先森
06-13 8679
本文简要介绍了我在购置 Tesla M40 计算卡并组装一台训练机中所遇到的问题与解决方法
Dell precision Tower 7920（戴尔塔式图形工作站）bios设置介绍
翟天保的博客
03-26 1万+
Dell precision Tower 7920（戴尔塔式图形工作站）bios设置介绍
戴尔工作站T7920驱动
10-28
戴尔塔式工作站T7920系统驱动，适用于win7和win2008r2系统。包含有usb3.0驱动，集成到镜像中，即可安装系统；安装完系统后，可以在设备管理器中指定扫描到这些文件，即可安装完全部驱动。
戴尔服务器关闭集显
m0_58871083的博客
10-19 1万+
戴尔服务器关闭集显步骤
Dell工作站T7920重装系统
不划水的烟酒僧的博客
06-29 1万+
链接点这里Dell工作站T7920重装系统 起先按照网上的方法制作U盘启动重装系统，结果发现进入u盘启动后，dell禁止重装，出现了如下报错，于是这种方法作罢。 然后找dell的官方支持文档，发现dell的工作站自带恢复程序，可以一键还原出厂设置，链接点这里，注意进入grub模式的时间比较短，我试了多次，实在dell图标出现后，黑屏显示文字的时候点击一次esc才进入的，之后就顺利的重装了 ...
Dell T7920工作站 拆装硬盘
热门推荐
yzhuang的专栏
07-01 2万+
想给工作站加个备份硬盘，琢磨很久了，不知该怎么拆开。官网也不告诉咋弄。 终于忍不住，暴力拆开前盖，才弄明白咋回事。 第一步：拆开左边的机箱盖，机箱盖中间部位有个拉手，一拉即可打开。 第二步：找到机箱内部靠近前盖边上的一个锁开关，按一下解锁，让下面的锁开关弹起来 第三步：往下搬硬盘支架面板处的开关 第四步：打开前端右侧的小面板。注意按下开关后，从图中画圈的小面板的傍边，找个薄的东西轻轻撬开即可。 之前没搞懂状况，把整个右侧面板都给抠下来了，费了老大劲，好在没有弄坏。 第五步：安装硬盘
dell 工作站装linux_dell服务器linux系统安装
weixin_39756696的博客
01-26 3054
介绍本篇文章主要介绍企业的刀片机的linux操作系统的安装部署。一、创建raid以下这个界面的时候一直按F10，进入系统引导进入服务器自带引导程序，默认选择简体中文，键盘类型默认即可点击OS部署开始安装系统这里可以选择首先配置RAID或直接转到OS部署RAID配置开始(选择PERC H710 Mini(具有安全功能))选择RAID5点击(全选)后面默认就可以了确定点击完成即可(然后它会提示你会删除...
Nvidia 2080 Ti很烫，是什么原因？
分享的滋味
10-12 2655
我使用Dell工作站安装了Nvidia 2080 Ti显卡，重装了Ubuntu 16.04系统。 系统刚装好后，发现显卡背面发热，很烫，见下图。 我摸了另外一台相同配置的工作站，2080 Ti显卡并不烫。 我原以为显卡坏了，多次开机、紧固显卡，仍然很热。 我们想到，可能是显卡驱动没有装，目前的显卡“硬”显示，发热严重。 后来，让学生把显卡驱动装好，我们再去摸，发现已经不怎么热了。 看来，大型显卡如果没有安装驱动，可能会发热、发烫。 ...
戴尔Dell 5420-7420拆机示意图
03-16
按拆机示意图可以自己动手更换配件，让自己对电脑更熟悉了解
更新dell工作站BIOS.zip
01-13
资源包里面有2个.exe程序，点击直接运行。分别是DELL工作站（T7920）的芯片组和BIOS驱动更新的程序，点击可以直接运行，然后确定重启就更新了。两个程序不区分先后执行顺序
戴尔成就微塔式小机箱装华硕1060-6G大显卡
老潘的博客
12-20 4874
回顾一下之前装机的路程，将自己的经验和大家分享下。刚到实验室的时候，老师给配了一台台式机，赶时间开发票只好选品牌机，5700+，戴尔成就，品牌机在相同价位上比淘宝的组装台式机不知差了多少。配置： i5-7400 8G内存 128SSD+1T 丽台K620显卡 不愧是品牌机啊…自带贵500块Buff，这个价位都能在淘宝买这种配置了：CPU内存暂时还可以用，只是显卡…有点差，因为需要学习深度学习，需要配
戴尔工作站（Precision 7920）安装双系统win10+ubuntu18.04
jcsm__的博客
05-05 1万+
*实验室的一台戴尔工作站，项目需要，安装双系统，搞了整整一天，和普通电脑安装还是有很多不同的，留下走过的坑。 一、工作站配置 型号：dellPrecision 7920 塔式工作站 内存：128G 磁盘：4T*2机械；2TNVMe固态 显卡：2080Ti*2 二、安装过程 安装win10操作系统 给ubuntu分配硬盘空间 安装ubuntu 三、几个坑 1.intel快速存储...
Dell Precision7920工作站装双系统
weixin_42958308的博客
10-09 6088
Dell Precision7920工作站装双系统启动盘准备双系统安装 由于从公司找着一台工作站，为了以后做训练，给原有win10系统上装Ubuntu16.04双系统，过程基本和笔记本类似，但有一些小差异。 启动盘准备 前面首先需要制作U盘启动盘，这里用的是rufus软件，在使用该软件的时候注意分区类型和目标系统类型。这里一定要先查清楚自己电脑的分区类型和系统类型，以我的工作站为例，它的分区类型是GPT，系统类型是UEFI。这里务必要注意，如果前期这些选项不选好，后期在安装双系统时就不会检测到已经安装的Wi
Dell Precision 7920维护历程之BIOS 误警报
ZhouZhouMonster的博客
07-11 1万+
最近开始负责维护实验室的服务器了（脏乱累辛苦+-+），遇到了服务器BIOS开机自检的过程中触发的误警报的问题，花了两天时间才解决。作为维护的开篇，以后再踩坑了，再*TM*留念吧。 首先需要明白，Dell这款型号的服务器在开机时，BIOS会对主板上各个硬件进行检测，即进行开机自检，说白了就是向主板上各个设备的引脚接口发送并接收反馈信号，当没有正确接收到检测信号的时候，就好报警报，发出哔哔声。这次遇...
DELL T7910服务器工作站的双系统安装！
奋斗之路
04-11 1万+
DELL T7910装双系统各种坑，下面进入正题：1.简单说下我的服务情况：一块固态硬盘和一块机械硬盘，用于做深度学习服务器。2.在网上查了好些资料，有的说需要拆卸阵列卡，直接接主板，这样你就可以装Linux Ubuntu和WIN 7/8/10系统。开始，我就信了。给DELL的工程师了好几次电话，他们也是这样说，该服务器驱动目前只支持WIN系统，没有linux驱动（买服务器好多都是架设Linux系...
主板-接双盘转接卡只识别到一块盘(实现PCIE-拆分)
Fu__Yan的博客
09-14 4836
服务器主板-接双盘转接卡只识别到一块盘(实现PCIE-拆分)
Dell precision 7720 移动工作站 nvidia 显卡安装说明
02-28 3621
1， 安装centos 7.3 系统，建议全量安装，本安装教程在全量安装版本上进行2， 下载对应系统版本的英伟达驱动程序3， 屏蔽系统自带的nouveau 3.1：service gdm stop3.2:  lsmod | grepnouveau        如果输入上述命令，结果没有输出，则表示禁用成功，反之成功。如果成功，执行步骤4；3.3： vi /usr/lib/modprobe.d/d...
使用Dell T7910 安装离线DeepSeekV3，你能给出一些建议吗，能使用多大的模型？那个模型运行效率更高！
最新发布
02-22
<think>嗯，用户想用Dell T7910安装离线的DeepSeek-V3模型，我得先了解清楚这个工作站的硬件配置。首先，Dell T7910是戴尔的塔式工作站，可能配置了不同的CPU和GPU，但通常这类机器可能使用的是Intel Xeon处理器，可能配备NVIDIA的Quadro或者Tesla系列显卡，不过具体型号可能有差异。用户需要安装的是DeepSeek-V3，这个模型应该是一个比较大的语言模型，可能类似于GPT-3那样的规模，所以需要考虑显存和内存的大小。 首先，我需要确认DeepSeek-V3的模型参数规模。比如，参数量是几十亿还是上百亿？不同大小的模型对硬件的要求不同。假设用户提到的DeepSeek-V3有不同的版本，比如7B、13B、33B或者更大的模型，这时候需要根据显卡的显存来决定。比如，7B的模型通常需要至少8GB显存，而更大的模型可能需要更多的显存，或者使用模型并行、量化技术来降低需求。 接下来，我需要考虑Dell T7910的硬件可能性。假设用户可能使用的是较老的GPU，比如Quadro M4000或者更高级的Tesla P100，或者可能升级到了更现代的GPU，比如RTX 3090或者A100。不过，考虑到T7910的发布时间可能在2015年左右，可能使用的是Maxwell或Pascal架构的显卡，比如Quadro M6000（24GB显存）或Tesla K80（24GB，但两个GPU芯片，实际每个12GB）。如果用户升级过硬件，可能会有更新的显卡。但如果没有的话，可能需要确认具体配置。 如果用户没有说明具体配置，可能需要给出不同情况下的建议。比如，如果显存足够大，可以运行更大的模型；如果显存较小，可能需要较小的模型或者使用量化版本。另外，离线运行可能需要考虑内存和存储空间，因为大模型的加载需要足够的RAM和磁盘空间。 然后，运行效率方面，模型的大小和优化方法会影响推理速度。较小的模型通常运行更快，但准确率可能较低。量化后的模型（如8bit或4bit）可以在保持较好性能的同时减少显存占用，提高速度。此外，使用诸如vLLM、Hugging Face的Transformers库，或者更高效的推理框架如DeepSpeed、FasterTransformer等，也能提升效率。 另外，用户提到的是离线安装，所以需要确保所有依赖库和模型文件都本地可用，可能需要提前下载模型权重，并配置好环境，比如Python、PyTorch或TensorFlow，以及相应的CUDA版本是否与GPU驱动兼容。 可能的步骤包括： 1. 检查硬件配置，特别是GPU型号和显存大小。 2. 根据显存选择适合的模型大小，比如7B、13B等。 3. 使用量化技术（如GPTQ、GGML）来降低显存需求。 4. 选择合适的推理框架，优化运行效率。 5. 确保系统驱动和依赖库正确安装，离线情况下可能需要预先下载所有依赖。 可能的挑战包括显存不足导致模型无法加载，或者计算速度过慢。需要根据具体情况做出权衡，比如模型大小与推理速度之间的平衡。 总结来说，用户需要先明确自己的硬件配置，尤其是GPU的显存，然后根据显存选择合适的模型版本，并应用量化或优化技术以提高运行效率。同时，离线环境下的安装需要提前准备好所有必要的软件包和模型文件。</think>针对在Dell T7910工作站上离线部署DeepSeek-V3模型的需求，以下是分步骤建议： --- ### **一、硬件配置核查** 1. **关键硬件确认** - **GPU型号与显存**： - 若为NVIDIA Quadro M6000（24GB显存）：可运行**33B量化模型**或**13B全参数模型** - 若为Tesla K80（12GB显存/每GPU）：建议运行**7B全参数模型**或**13B 4-bit量化版** - 若升级至RTX 3090（24GB）：支持**33B 8-bit量化模型**或更高 - **CPU/RAM**： - 至少Intel Xeon E5 v3系列 + 64GB DDR4内存（全参数模型加载需高内存） - **存储**： - 预留50GB+ SSD空间（模型文件+依赖库） --- ### **二、模型选择与优化策略** | 模型规模 | 显存需求（FP32） | 量化后显存 | 适用场景 | 推荐GPU最低配置 | |-----------|------------------|------------|-------------------|-----------------------| | DeepSeek-7B | 28GB | 7GB (4-bit)| 实时交互、低延迟 | NVIDIA T4 (8GB) | | DeepSeek-13B | 52GB | 13GB (4-bit)| 复杂推理任务 | RTX 3090 (24GB) | | DeepSeek-33B | 132GB | 33GB (4-bit)| 高精度专业场景 | 双卡A100 (80GB) | **推荐方案**： - **显存≤12GB**（如K80）： 使用**DeepSeek-7B 4-bit量化版**（GGML格式），通过`llama.cpp`实现CPU/GPU混合推理。 - **显存24GB**（如M6000/RTX3090）： 选择**DeepSeek-13B 8-bit量化版**，搭配`vLLM`框架实现高吞吐推理。 - **离线高精度需求**： 若CPU强（如双Xeon E5-2699v3）+ 128GB内存，可尝试**DeepSeek-7B FP16**纯CPU推理（需OpenBLAS优化）。 --- ### **三、效率优化技巧** 1. **量化技术** - 使用**GPTQ**（GPU量化）或**GGML**（CPU优化）压缩模型，显存占用降低50-75%。 - 示例代码（使用AutoGPTQ）： ```python from transformers import AutoModelForCausalLM, AutoTokenizer model = AutoModelForCausalLM.from_pretrained("deepseek-7b-4bit-gptq") ``` 2. **推理框架选择** - **vLLM**：支持PagedAttention，吞吐量提升5-10倍（适合24GB显存以上的批量请求）。 - **llama.cpp**：CPU/GPU混合推理，在低显存设备上仍可运行（需转换GGML格式）。 3. **系统级优化** - 禁用无用服务，释放最大内存。 - 使用`CUDA_VISIBLE_DEVICES`指定GPU，避免资源争抢。 --- ### **四、离线部署步骤** 1. **环境准备** - 下载模型文件（Hugging Face格式或GGML）至本地目录，如`/models/deepseek-7b-4bit`。 - 离线安装Miniconda，创建虚拟环境： ```bash conda create -n deepseek python=3.10 conda install pytorch torchvision torchaudio -c pytorch --offline ``` 2. **依赖库打包** - 在联网机器上用`pip download`下载所有包（transformers、accelerate等），拷贝至离线环境安装。 3. **启动推理** ```python from transformers import pipeline generator = pipeline("text-generation", model="/models/deepseek-7b-4bit") print(generator("中国的首都是")) ``` --- ### **五、常见问题处理** - **显存不足**：启用`device_map="auto"` + `load_in_4bit=True`（需bitsandbytes库）。 - **速度慢**： - GPU模式：检查CUDA是否启用`torch.cuda.is_available()`。 - CPU模式：编译时启用OpenMP并行（`make -j8`）。 建议优先测试7B量化模型，再根据实际性能逐步升级模型规模。
评论 12
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值