深度学习硬件配置

最新推荐文章于 2024-08-23 15:11:12 发布
最新推荐文章于 2024-08-23 15:11:12 发布
阅读量7.4k 收藏 17
点赞数 2
分类专栏： 深度学习 文章标签： 深度学习装机
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/channelyoung/article/details/88027631
版权
本文详细介绍了为公司配置深度学习硬件的过程，包括选择CPU、主板、GPU、内存、固态硬盘、机械硬盘、散热器、机箱和电源的考量因素。重点讨论了GPU的计算能力、PCIe通道对性能的影响以及多GPU散热解决方案。最终，通过平衡价格和性能，配置出一套总价约39000元的深度学习工作站。
摘要由CSDN通过智能技术生成

公司需要进行深度学习方面的探索，所以让我选择和配置机型，并安装当做前期开发使用。综合价格、GPU扩展4个、兼容性参考(https://pcpartpicker.com/)等因素买了以下的硬件，总价在39000元。

　 型号 网址 单价
1. CPU i7-7820x 8核16线程 https://item.jd.com/5251872.html 4499
2. 主板 技嘉(GIGABYTE) X299-WU8 https://item.jd.com/100001121024.html 4798
3. GPU 英伟达(NVIDIA) GeForce RTX 2080 Ti Founders Edition https://item.jd.com/8858025.html 9999*2
最低0.47元/天 解锁文章
channelyoung
关注
专栏目录
深度学习硬件配置推荐(kaggle学习)
weixin_46713695的博客
10-17 4304
深度学习硬件配置推荐
深度学习硬件介绍
weixin_46713695的博客
10-15 989
深度学习电脑配置
深度学习环境配置-（RTX4060ti显卡）windows下配置unet-pytorch的环境
jmxer的博客
04-10 1519
【代码】RTX4060ti配置unet-pytorch的环境。
【深度学习环境配置】ubuntu 20.04+4060 Ti+CUDA 11.8+pytorch（装机、显卡驱动、CUDA、cudnn、pytorch）
mjx792的博客
11-10 7565
【深度学习环境配置】ubuntu 20.04+4060 Ti+CUDA 11.8+pytorch（装机、显卡驱动、CUDA、cudnn、pytorch）
深度学习电脑买什么配置---低中高三个配置
最新发布
jsnuchao的博客
08-23 1008
深度学习，目标检测，电脑配置
4060深度学习环境配置---win11环境
weixin_56087993的博客
06-15 6576
4060支持的cuda版本是cuda11.8，前往官网下载对应的cuda11.8的包与对应的cudann的包。（其他没试过，这个版本是没问题的）。直接下载对应安装包就可以。（建议安装最新的）安装过程参照大佬。安装pytorch、torchvision与torchaudio。之后根据环境需要安装所需要的包。
BERT使用心得经验分享
weixin_34418883的博客
06-10 1049
使用Bert有一段时间了，在项目中确实也能带来提升，这里总结下bert的使用心得。 #1，资源的使用 Bert在训练的过程确实很消耗资源。 上面是Bert模型在12G显存的显卡上，每轮的样本数和句子长度。 开始还担心Bert模型部署在客户的机器上能否正常运行。后面测试发现，如果没有太高的并发，其实在预测阶段对显存的消耗并不高，大概1-2G显存即可。 #2，模型速度 使用Bert模型一定要跑在GP...
小显卡训练大模型
kyle1314608的博客
04-23 2159
在K40小破卡训练50层BERT Large的宝藏trick夕小瑶​机器学习 话题的优秀回答者434 人赞同了该文章前言虽然TPU的显存令人羡慕，但是由于众所周知的原因，绝大部分人还是很难日常化使用的。英伟达又一直在挤牙膏，至今单卡的最大显存也仅仅到32G（参考V100、DGX-2）。然而，训练一个24层的BERT Large模型的时候，如果sequence length开满512，那么batch...
深度学习训练与推理---台式、便携式、机架式、集群硬件配置推荐2022
Su_wenfeng的博客
02-08 2998
21世纪计算机最大挑战—深度学习、人工智能，它帮助更多领域的应用研究获取质的进展，计算机视觉、语音识别、自动机器翻译、自动驾驶汽车、药物发现、生物信息、医学诊断、视频游戏、围棋、智能电网… 不怕千招会，就怕一招绝，对于科研人员一旦通过深度学习技术在某一个应用领域有所成就，就会获取最大的机会。 西安坤隆计算机公司2008年进入工作站领域，专注于计算应用的最快计算硬件架构，针对深度学习GPU超算的不同环境、不同计算规模等等，提供更专业匹配、与时俱进的计算设备： 图灵超算工作站（台式） 图灵超算服务器（机架
深度学习需要计算机配置,深度学习工作站配置推荐
weixin_33417703的博客
07-08 8137
在具体的论述之前，先说几个结论：1.目前只有Nvida GPU能完整的支持深度学习，所以请购买较新的nvidia显卡(pascal、turing架构以上)2.GPU上的投资回报比基本呈线性变化，因此可以按照自己的需要配置不同GPU。3.保持工作站长期稳定工作需要一个靠谱的电源，所以在电源选择上追求稳定。4.在现有预算下，GPU>CPU=RAM>=SSD5.云服务用起来简单，长期使用却十...
NLP大模型微调答疑
狮子座明仔知识集散场
05-17 9473
我理解ChatGLM-6B模型是走完 “预训练-SFT-RLHF” 过程训练后的模型，其SFT阶段已经有上千指令微调任务训练过，现在我们只是新增了一类指令数据，相对大模型而已，微调数据量少和微调任务类型单一，不会对其原有的能力造成大的影响，所以我认为是不会导致灾难性遗忘问题，我自己微调模型也没出现此问题。ChatGLM-6B, LLaMA-7B模型分别是60亿参数量和70亿参数量的大模型，基本可以处理所有NLP任务，效果好，但大模型部署成本高，需要大显存的GPU，并且预测速度慢，V100都需要1秒一条。
2021-01-04
suo_li的博客
01-04 100
gtx1660ti支持python机器学习吗？
从3天到1小时，谷歌给最耗时的BERT预训练时间狂吃加速
喜欢打酱油的老鸟
04-05 8766
https://www.toutiao.com/a6675934997636973067/ BERT是目前最强大的NLP预训练模型，也是工业界目前最耗时的应用，计算量远高于ImageNet。谷歌的研究人员提出新的优化器，使用1024块TPU，将BERT的训练时间从3天成功缩短到76分钟，提速 65.2 倍！ 去年，谷歌发布了最强预训练模型 BERT，宣告了NLP领域的一项重大突破。 B...
深度神经网络模型训练时GPU显存不足怎么办？
一个努力吃胖的小瘦子的博客
04-03 9982
前言 最近跑的模型都比较大，尤其是Bert， 这真的是难为我 1080ti 了， 在Bert的Example中，官方提供了一些 Trick 来帮助我们加速训练，很良心， 但感觉还不够，于是花费一些时间整理出一个 Trick 集合，来帮助我们在显存不足的时候来嘿嘿嘿。 本文分为两大部分，第一部分引入一个主题：如何估计模型所需显存， 第二个主题：GPU显存不足时的各种 Trick 。 监控 GPU 监...
Pytorch实现Bert/RoBerta微调（以MELD数据集为例）
csdndogo的博客
07-17 6715
本文记录我在学习BERT/ROBERTAfine-tuning过程的遇到的问题，包括内存受限，微调概念，微调方法等。文章方法不适用于逐层微调，且只以NLP文本分类举例，微调代码参考。
BERT重计算：用22.5%的训练时间节省5倍的显存开销（附代码）
hecongqing的博客
04-21 1894
一只小狐狸带你解锁 炼丹术&NLP秘籍作者：夕小瑶、rumor酱前言虽然TPU的显存令人羡慕，但是由于众所周知的原因，绝大部分人还是很难日常化使用的。英伟达又一直在挤牙膏，至今...
深度学习 训练吃显卡_最新最全深度学习训练/GPU服务器硬件配置推荐2020
weixin_39674978的博客
12-19 1380
人工智能随着核心算法、计算能力的迅速提升，以及海量联网数据的支持，在本世纪终于迎来了质的飞跃，人工智能将是未来应用最广泛的技术之一，在市场经济领域带来更多的机遇与机会，在医学领域可以大大加快诊断速度和准确性，在军事领域人工智能武器将成为未来武器的王牌……(一)了解深度学习算法深度学习两个主要过程：训练(Training)和推理(Inference)。其中：训练(Training)是将大量数据加载到...
深度学习 训练吃显卡_做深度学习需要什么样的显卡?
weixin_39637589的博客
12-19 833
可以利用 NVIDIA Tesla GPU来快速地处理高性能计算 (HPC) 和超大规模数据中心工作负载。现在，数据科学家和研究人员可以在能源勘探和深度学习等应用场合中解析PB级的数据，速度比使用传统 CPU 快几个数量级。Tesla GPU亦有能力以前所未有的超快速度运行更大型的模拟。此外，Tesla 还能为虚拟桌面、应用程序和工作站提供超高性能和用户密度。目前最新的有NVIDIA A100，它...
TX2深度学习配置指南：Pytorch与Tensorflow详解
TX2作为NVIDIA推出的一款专为人工智能设计的嵌入式开发板，其硬件配置得到了显著提升，包括8GB内存和32GB存储，支持H.265编解码，以及MAXQ和MAXP两种运行模式，分别注重能效与性能。MAXQ模式在低功耗下实现高效，而...
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值