A30、V100性能测试对比报告

一，基础配置对比

卡型	架构	卡数	显存	CUDA	GPU Driver	(TDP)能源消耗	CPU核数(超线程)	内存大小	CPU型号	发布日期	备注
A30	Ampere	8	24G	11.0	450.51.06	165 Watt	48	252	AMD EPYC 7402 24-Core Processor	2021	PCIe
V100	Volta	8	32G	11.4	470.57.02	250 Watt	80	503	Intel® Xeon® Gold 6230 CPU @ 2.10GHz	2017	NV Link

二，模型训练对比

1，单卡模型训练对比

1.1， batch_size 为 128 对比

• 对比环境
  
• 性能对比
  
  
  A30
  
  V100

1.2，batch_size 为 256 对比

• 对比环境
  
• 性能对比
  
  

2，多卡模型训练对比

2.1， batch_size 为 128 对比

• 对比环境
  
• 性能对比
  
  

2.2， batch_size 为 256 对比

• 对比环境
  
• 性能对比
  

三，推理AB-压测对比

1，对比环境

共压80000数据，同时请求500数据。

2，压测性能对比

四，算力、带宽对比

A30参数
V100参数

A30:

V100:

注：

深入PCI与PCIe