A30、V100性能测试对比报告

一，基础配置对比

卡型架构卡数显存CUDAGPU Driver(TDP)能源消耗CPU核数(超线程)内存大小CPU型号发布日期备注A30Ampere824G11.0450.51.06165 Watt48252AMD EPYC 7402 24-Core Processor2021PCIeV100Volta832G11.4470.57.02250 Watt80503Intel® Xeon® Gold 6230 CPU @ 2.10GHz2017NV Link

二，模型训练对比

1，单卡模型训练对比

1.1， batch_size 为 128 对比

• 对比环境
• 性能对比 A30 V100

1.2，batch_size 为 256 对比

• 对比环境
• 性能对比

2，多卡模型训练对比

2.1， batch_size 为 128 对比

• 对比环境
• 性能对比

2.2， batch_size 为 256 对比

• 对比环境
• 性能对比

三，推理AB-压测对比

1，对比环境

共压80000数据，同时请求500数据。

2，压测性能对比

四，算力、带宽对比

A30参数
V100参数

A30:

V100:

注：

深入PCI与PCIe