浅谈 Nvidia H20 的实用价值
一、引言
站在这个时间点上看,2024年国内通过合规渠道能采购的英伟达的高端显卡只有H20 [1, 2]。Nvidia H20拥有高配的显存、很高的卡间互联带宽和有竞争力的FP8算力,是值得推荐的一款GPU卡(单看96GB的HBM3显存配置,也推荐大家使用H20)。
预测2024年Nvidia H20的销售情况与2023年Nvidia H800的销售情况会比较类似,会从刚开始大家观望到后来大家抢购(再到买不到)。本文就谈谈Nvidia H20的实用价值。
二、H20简介与对比
Nvidia H20,源自Nvidia H200的精心裁剪,完美继承了900GB/s的卡间高速互联带宽,融合NVLink4.0与NVSwitch3.0尖端技术。更值得一提的是,它支持PCIe Gen5,双向带宽高达128GB/s,轻松驾驭400GbE集群网络。
这一特性不仅便于构建超大规模GPU集群,更能确保集群保持卓越的线性加速比,为高性能计算领域注入强大动力。
H20峰值算力仅为H200的约15%,显示出其算力相对较低,明显受到裁剪影响。在算力比拼中,H20显然处于劣势地位。
在L2 Cache配置上,H20的60MB容量显著超越H2