深度学习多卡配置_组装机(多显卡)配置小贴士/深度学习主机_weixin_39716877的博客-CSDN博客
贴士一:硬件在软件上有点拗口是否兼容
主板和其他的硬件间都是有兼容关系的。比如说一个人的攻略里,可能会给你推荐一块高性价比的主板,一块高性价比的内存,殊不知这块主板和内存不兼容。
又比如你要配置多显卡的,那主板的PCIe是否足够,功率是否足够,主板是否支持sli(是否支持交火。有些支持交火不支持sli等等),cpu是否足够调度多张显卡等等。
这些都可以在主板以及其他配件的技术文档中查到。
贴士二:硬件在物理上是否兼容
物理上一方面就是指电源功率,多显卡的情况下需要考虑。比如主板功率是否足够(这个一般不是问题,独显应该都是走独立供电的),总电源功率是否足够(这个很重要,众所周知挖矿费电)。
另一方面就是你能不能组装起来了。你的主机箱是否能装下电源和主板,你的主板上是否能装下多张内存条(有的内存条外壳厚)。
还有细节比如说散热方面,cpu的散热很重要这里先不展开说。说说我图中安装的两块显卡,因为厚度太厚距离就太近了,满功率跑的话散热怕是会出问题(显卡过热会自动降频)。这里多说下ATX主板PCIe插槽间的距离是固定的,我测量大约在6cm(好几个芯片组我测量/查了下都是这个间距,不知道有没有不同的)。但是显卡因为其散热配置不同,同款芯片的显卡厚度从3cm到7cm都有,多卡的话还是不要买厚的显卡虽然单兵散热好。而且我的机箱主板下面贴着电源,无法将显卡插在主板底部的插槽。不过京东显卡不能退换只能就这样用了,现在没跑过满功率没发现问题最高画质特效奥德赛能稳定60帧以上,具体温度多少我也不记得了当时就拿的奥德赛测配置。之前退换的一张主板,也有发现m.2的接口位置很靠近显卡出风口,不知道会不会有问题。
————————————————
版权声明:本文为CSDN博主「weixin_39716877」的原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。
原文链接:https://blog.csdn.net/weixin_39716877/article/details/112889363
①显卡选择
(1)不用考虑A卡了,这次不是玩游戏或者挖矿。
(2)拥有tensor core的NVidia 20系显卡的提升很明显。
根据超能网的测试,RTX2080ti单精度测试成绩比GTX1080ti高40%,而半精度测试成绩则高65%。实际上,即使是RTX2080也比GTX1080ti要强。
而在价格上,非公2080ti 中低配为8100元(比如映众RTX2080ti gaming OC),RTX2080中低配为5100元(比如索泰RTX2080 gaming)。二者价格差距为60%(以RTX2080为基准),性能差距为30%。因此,RTX2080相对而言性价比更高。不过,此时性价比并不一定特别重要,吃饭(报销)的家伙,还在乎这几千块钱?
(3)如果是以半精度为主,GTX1080ti相比RTX2080(ti)并没有价格上或者性能上的优势,此外,现在1080ti很难买到全新正品国行。淘宝上要么是海淘的(无保修),要么是二手。故1080ti基本不需要考虑。但是如果是更常见的单精度为主,GTX1080ti依然是性价比最高的选择,当然,前提是你能买到。
(4)专业图形卡不用考虑了,性能弱,价格高。
(5)显卡散热问题(敲黑板,重点!)
(5.1)单卡不用考虑显卡散热问题
(5.2)三槽卡直接放弃(单显卡的话无视此条)
一般高配顶配的RTX2080 2080ti都是三槽卡。“三槽”指的是显卡占用三个卡槽的位置。三槽卡非常厚,可能直接导致主板无法容纳两张显卡,即使勉强装下,两个显卡之间的间隙太小,严重影响散热。现在公版和绝大多数非公RTX2080ti采用的都是吸风式风冷散热,并不是涡轮散热。反而是个别非公采用了涡轮散热。
过于拥挤的显卡排布会使得显卡散热器无法吸到足够的风从而导致显卡散热效率降低温度提高,由于Boost 3.0机制,显卡温度提升会显著降低显卡频率,因此显卡的计算能力也会明显下降。
(5.3)可以考虑使用一体式显卡水冷
双卡跑深度学习的时候,靠近CPU的那张卡会比较热,因为下方显卡的热量都被它吸进去了。因此可以考虑只给靠近CPU的显卡使用一体式显卡水冷,300元就可以买到 ID cooling的240显卡一体水冷,效果要比原先的风冷散热器强不少。当然,上不上一体水冷取决于显卡实际温度,如果显卡本身散热能力强,再考虑到冬天环境温度较低,机箱风道又比较好,完全可以不上一体水。
第二张显卡不需要上一体水冷,因为我们可以选择大一点的机箱让第二张卡有足够的散热空间。另外,即使上了两个一体水冷,你会发现机箱没有足够的风扇位去装冷排,毕竟一个240显卡水冷需要占用2个120mm风扇位。
搞深度学习,是买一个RTX3090还是两个RTX3080? - 知乎
不差钱直接上3090,后续增加第二块3090
预算有限的话,看你搞啥了。
单次训练显存用到10G以上,只能选3090
不管怎么用显卡,都不会超过10G,而且没有后续升级计划,两块3080吧,算力最大。
当然一块3090也可以同时跑多个任务……就是慢一些