和H100相比,英伟达的H20、L20 和 L2 芯片性能如何?

英伟达的H20、L20和L2芯片作为H100的替代品,基于Hopper GPU架构,性能各有特点。H20在大语言模型推理上比H100快20%以上,但在传统计算能力上略逊一筹。L20和L2配置更加精简,适用于特定场景。尽管性能有所降低,但英伟达的软件堆栈仍具有吸引力。
摘要由CSDN通过智能技术生成

据媒体最新报道,英伟达即将推出至少三款新的AI芯片,包括 H20 SXM、PCIe L20 和 PCIe L2,以替代被美国限制出口的H100。这三款芯片均基于Hopper GPU 架构,最高理论性能可达296TFLOP(每秒浮点运算次数,也叫每秒峰值速度)。

几乎可以肯定的是,这三款AI芯片均是H100的“阉割版”或“缩水版”。

理论上H100比H20的速度快了6.68倍。据分析师Dylan Petal最新发布的一篇博文,即使H20的实际利用率能达到90%,其在实际多卡互联环境中的性能仍只能接近H100的50%。

也有媒体称,H20的综合算力仅相当于H100的20%,且由于增加了HBM显存和NVLink互联模块,算力成本显著提高。

不过,H20 的优点也很明显,在大语言模型(LLM)推理方面比H100快了20%以上。理由是H20在某些方面与明年要发布的下一代超级AI芯片H200相似。

英伟达已经做出这三款芯片的样品,H20 和

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值