【无标题】

做深度学习，需要配置专门的GPU服务器吗？

深度学习是需要配置专门的GPU服务器的:深度学习的电脑配置要求：1、数据存储要求在一些深度学习案例中，数据存储会成为明显的瓶颈。做深度学习首先需要一个好的存储系统，将历史资料保存起来。

主要任务：历史数据存储，如：文字、图像、声音、视频、数据库等。数据容量：提供足够高的存储能力。读写带宽：多硬盘并行读写架构提高数据读写带宽。接口：高带宽，同时延迟低。

传统解决方式：专门的存储服务器，借助万兆端口访问。缺点：带宽不高，对深度学习的数据读取过程时间长(延迟大，两台机器之间数据交换)，成本还巨高。

2、CPU要求当你在GPU上跑深度网络时，CPU进行的计算很少，但是CPU仍然需要处理以下事情：（1）数据从存储系统调入到内存的解压计算。（2）GPU计算前的数据预处理。

（3）在代码中写入并读取变量，执行指令如函数调用，创建小批量数据，启动到GPU的数据传输。（4）GPU多卡并行计算前，每个核负责一块卡的所需要的数据并行切分处理和控制。

（5）增值几个变量、评估几个布尔表达式、在GPU或在编程里面调用几个函数——所有这些会取决于CPU核的频率，此时唯有提升CPU频率。传统解决方式：CPU规格很随意，核数和频率没有任何要求。

3、GPU要求如果你正在构建或升级你的深度学习系统，你最关心的应该也是GPU。GPU正是深度学习应用的核心要素——计算性能提升上，收获巨大。主要任务：承担深度学习的数据建模计算、运行复杂算法。

传统架构：提供1~8块GPU。4、内存要求至少要和你的GPU显存存大小相同的内存。当然你也能用更小的内存工作，但是，你或许需要一步步转移数据。

总而言之，如果钱够而且需要做很多预处理，就不必在内存瓶颈上兜转，浪费时间。主要任务：存放预处理的数据，待GPU读取处理，中间结果存放。

深度学习需要强大的电脑算力，因此对电脑的硬件配置自然是超高的，那么现在普通的高算力电脑需要高配置硬件。

谷歌人工智能写作项目：爱发猫

做深度学习的服务器需要哪些配置？

好文案。

要做一个深度学习的服务器，需要的配置有GPURAM,储存器，因为GPU是在我做深度学习服务器里面一个非常重要的部分，相当于是一个心脏，是非常核心的一个服务器，所以GPU是一个非常重要的东西，储存器也是相当重要的，因为很多数据都要放在ssd储存器上。

深度学习 对硬件的要求

之前热衷于学习理论知识，目前想跑代码了发现不知道从何下手，自己电脑上搭建的平台基本就是个摆设，因为跑不起来呀。今天我们就来看看想做深度学习应该怎么下手。

首先了解下基础知识：1、深度学习用cpu训练和用gpu训练的区别（1）CPU主要用于串行运算；而GPU则是大规模并行运算。由于深度学习中样本量巨大，参数量也很大，所以GPU的作用就是加速网络运算。

（2）CPU算神经网络也是可以的，算出来的神经网络放到实际应用中效果也很好，只不过速度会很慢罢了。而目前GPU运算主要集中在矩阵乘法和卷积上，其他的逻辑运算速度并没有CPU快。

目前来讲有三种训练模型的方式：1.自己配置一个“本地服务器”，俗称高配的电脑。这个选择一般是台式机，因为笔记本的“高配”实在是太昂贵了，同一个价格可以买到比笔记本好很多的配置。

如果是长期使用，需要长期从事深度学习领域的研究，这个选择还是比较好的，比较自由。①预算一万以内的机器学习台式机/主机配置：②从李飞飞的课程里，可以看到她的电脑配置，这个配置是机器学习的基本设置。

内存：4X8G显示卡：两个NVGTX1070硬盘：HDD一个，SSD两个③配置主机需要了解的参数（在上一篇博客中已经详细介绍了各个参数的含义）：GPU：一个好的GPU可以将你的训练时间从几周缩减成几天，所以选GPU一定要非常慎重。

可以参看GPU天梯榜，都是一些比较新的型号具有很强的性能。在英伟达产品系列中，有消费领域的GeForce系列，有专业绘图领域的Quadro系列，有高性能计算领域的Tesla系列，如何选择？

有论文研究，太高的精度对于深度学习的错误率是没有提升的，而且大部分的环境框架都只支持单精度，所以双精度浮点计算是不必要，Tesla系列都去掉了。

从显卡效能的指标看，CUDA核心数要多，GPU频率要快，显存要大，带宽要高。这样，最新TitanX算是价格便宜量又足的选择。CPU：总的来说，你需要选择一个好的GPU，一个较好的CPU。

作为一个高速的串行处理器，常用来作为“控制器”使用，用来发送和接收指令，解析指令等。

由于GPU内部结构的限制，使得它比较适合进行高速的并行运算，而并不适合进行快速的指令控制，而且许多的数据需要在GPU和CPU之间进行存取，这就需要用到CPU，因为这是它的强项。

内存条：主要进行CPU和外设之间的数据交换，它的存取速度要比硬盘快好几倍，但是价格比较昂贵，通常会和容量成正比。

内存大小最起码最起码最起码要大于你所选择的GPU的内存的大小（最好达到显存的二倍，当然有钱的话越大越好）。在深度学习中，会涉及到大量的数据交换操作（例如按batch读取数据）。

当然你也可以选择将数据存储在硬盘上，每次读取很小的batch块，这样你的训练周期就会非常长。

常用的方案是“选择一个较大的内存，每次从硬盘中读取几个batch的数据存放在内存中，然后进行数据处理”，这样可以保证数据不间断的传输，从而高效的完成数据处理的任务。

电源问题：一个显卡的功率接近300W，四显卡建议电源在1500W以上，为了以后扩展，可选择更大的电源。固态硬盘：作为一个“本地存储器”，主要用于存储各种数据。由于其速度较慢，价格自然也比较便宜。

建议你选择一个较大容量的硬盘，通常会选择1T/2T。一个好的方法是：“你可以利用上一些旧的硬盘，因为硬盘的扩展十分简单，这样可以节省一部分资金。”

学生做深度学习有什么高性价比的电脑配置推荐?

建议买x99、x299，c422等主板，PCIE通道40多个，4通道内存，扩展性良好，性能不够直接加显卡就行。

每张显卡需要8个或16个PCIE通道，固态硬盘还要占用4个，普通的z490主板只有16个通道，更低端的就更少了，明显没有扩展能力。

x99还能找到库存全新的，才1700块左右，买的时候注意PCIE卡槽间距离，一个显卡要占用两个卡槽的位置。再加个拆机的1400左右的18核至强e52690v4。

以后1个显卡，2个显卡，3个显卡，4个显卡随便上，完美。显卡(Videocard，Graphicscard)全称显示接口卡，又称显示适配器，是计算机最基本配置、最重要的配件之一。

显卡作为电脑主机里的一个重要组成部分，是电脑进行数模信号转换的设备，承担输出显示图形的任务。

显卡接在电脑主板上，它将电脑的数字信号转换成模拟信号让显示器显示出来，同时显卡还是有图像处理能力，可协助CPU工作，提高整体的运行速度。对于从事专业图形设计的人来说显卡非常重要。

民用和军用显卡图形芯片供应商主要包括AMD(超微半导体)和Nvidia(英伟达)2家。现在的top500计算机，都包含显卡计算核心。在科学计算中，显卡被称为显示加速卡。

如何配置一台深度学习主机

搞AI，谁又能没有“GPU之惑”？下面列出了一些适合进行深度学习模型训练的GPU，并将它们进行了横向比较，一起来看看吧！CPU与GPU对比CPU是一个有多种功能的优秀领导者。

它的优点在于调度、管理、协调能力强，计算能力则位于其次。而GPU相当于一个接受CPU调度的“拥有大量计算能力”的员工。下图是处理器内部结构图：DRAM即动态随机存取存储器，是常见的系统内存。

Cache存储器：电脑中作为高速缓冲存储器，是位于CPU和主存储器DRAM之间，规模较小，但速度很高的存储器。算术逻辑单元ALU是能实现多组算术运算和逻辑运算的组合逻辑电路。

当需要对大数据bigdata做同样的事情时，GPU更合适，当需要对同一数据做很多事情时，CPU正好合适。GPU能做什么？关于图形方面的以及大型矩阵运算，如机器学习算法等方面，GPU就能大显身手。

简而言之，CPU擅长统领全局等复杂操作，GPU擅长对大数据进行简单重复操作。CPU是从事复杂脑力劳动的教授，而GPU是进行大量并行计算的体力劳动者。

深度学习是模拟人脑神经系统而建立的数学网络模型，这个模型的最大特点是，需要大数据来训练。

因此，对电脑处理器的要求，就是需要大量的并行的重复计算，GPU正好有这个专长，时势造英雄，因此，GPU就出山担当重任了。

太长不看版截至2020年2月，以下GPU可以训练所有当今语言和图像模型：RTX8000：48GBVRAM，约5500美元RTX6000：24GBVRAM，约4000美元TitanRTX：24GBVRAM，约2500美元以下GPU可以训练大多数（但不是全部）模型：RTX2080Ti：11GBVRAM，约1150美元GTX1080Ti：11GBVRAM，返厂翻新机约800美元RTX2080：8GBVRAM，约720美元RTX2070：8GBVRAM，约500美元以下GPU不适合用于训练现在模型：RTX2060：6GBVRAM，约359美元。

在这个GPU上进行训练需要相对较小的batchsize，模型的分布近似会受到影响，从而模型精度可能会较低。GPU购买建议RTX2060（6GB）：你想在业余时间探索深度学习。

RTX2070或2080（8GB）：你在认真研究深度学习，但GPU预算只有600-800美元。8GB的VRAM适用于大多数模型。

RTX2080Ti（11GB）：你在认真研究深度学习并且您的GPU预算约为1,200美元。RTX2080Ti比RTX2080快大约40％。

TitanRTX和QuadroRTX6000（24GB）：你正在广泛使用现代模型，但却没有足够买下RTX8000的预算。

QuadroRTX8000（48GB）：你要么是想投资未来，要么是在研究2020年最新最酷炫的模型。

NVTESLAV100（32GB）：如果你需要在NVIDIA数据中心使用CUDA，那么TESLA就是必选品了。图像模型内存不足之前的最大批处理大小：*表示GPU没有足够的内存来运行模型。

性能（以每秒处理的图像为单位）：*表示GPU没有足够的内存来运行模型。语言模型内存不足之前的最大批处理大小：*表示GPU没有足够的内存来运行模型。性能：*GPU没有足够的内存来运行模型。

使用QuadroRTX8000结果进行标准化后的表现图像模型语言模型结论语言模型比图像模型受益于更大的GPU内存。注意右图的曲线比左图更陡。

这表明语言模型受内存大小限制更大，而图像模型受计算力限制更大。具有较大VRAM的GPU具有更好的性能，因为使用较大的批处理大小有助于使CUDA内核饱和。

具有更高VRAM的GPU可按比例实现更大的批处理大小。只懂小学数学的人都知道这很合理：拥有24GBVRAM的GPU可以比具有8GBVRAM的GPU容纳3倍大的批次。

比起其他模型来说，长序列语言模型不成比例地占用大量的内存，因为注意力（attention）是序列长度的二次项。

附注：测试模型图像模型：语言模型：云轩Cloudhin专注Deeplearning和高性能计算服务器定制，针对主要深度学习框架（如TensorFlow、Caffe2、Theano或Torch）进行了优化和设置，在桌面上即可提供强大的深度学习功能。

请点击输入图片描述请点击输入图片描述。

深度学习吃什么配置

看你的需求了，如果想跑大一点的神经网络（e.g.AlexNet），最好是用GTX770或更好的Titan,K40等GPU。如果只是MNIST上跑着玩一般的卡就可以。

对CPU没有太多要求，显卡的内存要大于3g要使用CUDNN的话，GPU的运算能力必须达到3.0。没有GPU也是可以的，但是会非常的慢对GPU没有要求，唯一的要求就是显卡要支持cuda（A卡泪奔。。

）。如果你显卡不支持cuda，也不要紧，可以用CPU跑。在你的网络配置文件solver.prototxt文件最后一行，设置为CPU模式即可。

做深度学习的自然语言处理对电脑的配置有什么要求

。

四颗TITANXGPU，每颗GPU有12GB内存64GBDDR4华硕X99-EWS工作站级主板支持4路PCI-EGen3x16酷睿i7-5930K6核3.5GHz台式机处理器三个3TBSATA6Gb3.5“企业级硬盘RAID5用于RAID的512GBPCI-EM.2SSD缓存250GBSATA6Gb内置SSD包括EVGA在内的高级供应商的1600W电源装置Ubuntu14.04NVIDIA合格的驱动程序NVIDIA®（英伟达™）CUDA®工具包NVIDIA®DIGITS™SWNVIDIA®cuDNN™Caffe，Theano，火炬，BIDMachNVIDIA®DIGITS™DevBox官方参考。

做深度学习图像处理，大概怎样的显卡才算合适

。

性能最好的GPU：RTX2080Ti性价比高，但小贵：RTX2080,GTX1080性价比高，同时便宜：GTX1070,GTX1070Ti,GTX1060使用的数据集>250GB：RTX2080Ti,RTX2080预算很少：GTX1060(6GB)几乎没预算：GTX1050Ti(4GB)/CPU（建模）+AWS/TPU（训练）参加Kaggle竞赛：GTX1060(6GB)（建模）+AWS（最终训练）+fastai库有前途的CV研究员：GTX2080Ti;在2019年升级到RTXTitan普通研究员：RTX2080Ti/GTX10XX->RTXTitan，注意内存是否合适有雄心壮志的深度学习菜鸟：从GTX1060(6GB)、GTX1070、GTX1070Ti开始，慢慢进阶随便玩玩的深度学习菜鸟：GTX1050Ti(4或2GB)。