机器学习和深度学习服务器配置建议

云服务器配置

方案一：

模块	型号
GPU	4 x Nvidia Tesla V100
GPU内存	32GB
vCPU（核）	40
处理器	2.2 GHz主频的Intel Xeon E5-2650 v4（Broadwell）处理器
内存	220GB
SSD云盘	4 x 960GB SSD
高效云盘	4 x 6000GB HDD

方案二：

模块	型号
GPU	4 x Nvidia Tesla P40
GPU内存	32GB
vCPU（核）	56
处理器	2.2 GHz主频的Intel Xeon E5-2650 v4（Broadwell）处理器
内存	220GB
SSD云盘	4 x 960GB SSD
高效云盘	4 x 6000GB HDD

工作站配置

方案一：直接购买NVIDIA DGX系列工作站（比较贵）

• NVIDIA DGX Station

  模块	（数量*）型号
  GPUs	4*Tesla V100 GPU卡
  混合精度计算性能：	500TFLOPS
  GPU 内存	128 GB
  Tensor Cores	2,560
  CUDA® Cores	20,480
  处理器	1*Intel Xeon E5-2698 v4 2.2 GHz (20-Core)
  内存：	256 GB RDIMM DDR4
  存储	Storage Data: 3X 1.92 TB SSD RAID 0
  OS:	1X 1.92 TB SSD
  网络	Dual 10GBASE-T (RJ45)
  Display端口	3X DisplayPort, 4K resolution
  端口	2x eSATA, 2x USB 3.1, 4x USB 3.0
  噪音	< 35 dB
  重量	88 lbs / 40 kg
  外观尺寸	518 D x 256 W x 639 H (mm)
  最大功率	1,500 W
  温度范围	10–30 °C
  系统软件	Ubuntu Desktop Linux OS
  DGX Recommended GPU Driver	CUDA Toolkit

  来源：NVIDIA DGX Station V100 32G*4 深度学习工作站

  预算：￥450000

• NVIDIA DGX-1

  模块	（数量*）型号
  GPU	8 块 Tesla V100
  性能（混合精度）	1 petaFLOPS
  GPU 显存	256 GB 系统总容量
  CPU	双路 20 核英特尔至强 E5-2698 v4 2.2 GHz
  NVIDIA CUDA® 核心数量	40960
  NVIDIA Tensor 核心数量（基于 V100）	5120
  功率要求	3500 W
  系统内存	512 GB 2133 MHz DDR4 RDIMM
  存储空间	4 块 1.92 TB SSD RAID 0
  网络	双 10 GbE，4 IB EDR
  软件	Ubuntu Linux 主机操作系统
  系统重量	61 千克
  系统尺寸	866（长）x 444（宽）x 131（高）毫米
  包装尺寸	1180（长）x 730（宽）x 284（高）毫米
  运行温度范围	10–35 °C

  来源：NVIDIA DGX-1 TESLA P100*8 深度学习工作站

  预算：¥1090000.00 - 1290000.00

• NVIDIA DGX-2

  模块	（数量*）型号
  GPUs	16块 NVIDIA® Tesla V100
  GPU显存	共 512GB
  性能	2 petaFLOPS
  NVIDIA CUDA® 核心数量	81920
  NVIDIA Tensor 核心数量	10240
  NVSwitches	12
  最大功率	10 kW
  CPU	双路英特尔至强 Platinum 8168，2.7 GHz，24 核
  系统内存	1.5TB
  网络	8X 100Gb/秒 Infiniband/100GigE 双 10/25Gb/秒 Ethernet
  存储空间	操作系统：两块 960GB NVME SSD; 内部存储：30TB (8块3.84TB) NVME SSD
  软件	Ubuntu Linux OS
  系统重量	154.2 千克
  系统尺寸	高： 440 毫米; 宽： 482.3 毫米; 长： 795.4 毫米
  运行温度范围	5°C 至 35°C

  来源：NVIDIA DGX Station V10032G*4 深度学习工作站

  预算：$39.9万

方案二：自己组装工作站-四路GPU配置

模块	型号	理由	参考单价	数量（个）	参考总价
GPU	RTX 2080Ti 11G (CUDA® Cores : 3328; 显存: 11GB GDDR5X; 内存带宽:11 GB/s )	目前性能最好，性价比最高的GPU	￥9999.00	4	￥39996
CPU	英特尔® 酷睿™ i7-9800X 8核心 16线程	PCI Express 通道数的最大值为44，拥有相对较高的主频	￥5599.00	1	￥5599.00
主板	ASUS X99-E WS/USB3.1工作站主板	计划上四块 RTX 2080Ti，那么至少需要四路 PCI-e 3.0 的 x16 接口	￥3859.00	1	￥3859.00
内存	kingston HX436C17PB3AK4/32 DDR4：3600	单机4卡的机器，64G内存绰绰有余	￥1599.00	4*16G	￥6396
电源	EVGA 额定1600w 1600T2电源	足够为工作张提供稳定的电源	￥3199.00	1	￥3199.00
SSD	三星970/960 PRO 970EVO 1T/2T SSD（M.2 NVMe协议）	Asus X99-E WS/USB 3.1 恰好有一个 M.2 接口	￥4399.00	1	￥4399.00
散热器	(USCORSAIR) H150i PRO RGB冷头	水冷更加安静，适合作为工作站的散热器	￥1399.00	1	￥1399.00
机箱	Corsair Carbide Air 540	直接选跟 Nvidia DevBox同款的机箱	￥949.00	1	￥949.00
机械硬盘	西部数据(WD)蓝盘 6TB SATA6Gb/s 64MB	容量大，数据访问速度较快	￥1799.00	1	￥1799.00

预算： ￥67595

方案三：自己组装工作站-二路GPU配置

模块	型号	理由	参考单价	数量（个）	参考总价
GPU	NVIDIA GTX 1080ti (CUDA® Cores : 3328; 显存: 11GB GDDR5X; 内存带宽:11 GB/s )	性能非常好，性价比高	￥10999.00	2	21998
CPU	英特尔® 酷睿™ i7-9800X 8核心 16线程	PCI Express 通道数的最大值为44，拥有相对较高的主频	￥5599.00	1	￥5599.00
主板	GA-X99-UD4	X99平台,易扩展	￥2888	1	￥2888
内存	kingston HX436C17PB3AK4/32 DDR4：3200	单机双卡的机器，64G内存绰绰有余	￥1099.00	4*16G	￥4396
电源	EVGA 额定1600w 1600T2电源	足够为工作张提供稳定的电源	￥3199.00	1	￥3199.00
SSD	三星970/960 PRO 970EVO 1T/2T SSD（M.2 NVMe协议）	Asus X99-E WS/USB 3.1 恰好有一个 M.2 接口	￥2599.00	1	￥2599.00
散热器	(USCORSAIR) H150i PRO RGB冷头	水冷更加安静，适合作为工作站的散热器	￥1399.00	1	￥1399.00
机箱	Corsair Carbide Air 540	直接选跟 Nvidia DevBox同款的机箱	￥949.00	1	￥949.00
机械硬盘	西部数据(WD)蓝盘 6TB SATA6Gb/s 64MB	容量大，数据访问速度较快	￥1799.00	1	￥1799.00

预算： ￥44826