NVIDIA 推出用于超大规模生成 AI 的加速以太网平台

新的 NVIDIA Spectrum-X 网络平台结合了 NVIDIA Spectrum-4、BlueField-3 DPU 和加速软件;世界领先的云服务提供商采用平台扩展生成式 AI 服务—— NVIDIA 今天宣布推出 NVIDIA Spectrum-X™ ,这是一个加速网络平台,旨在提高基于以太网的 AI 云的性能和效率。
摘要由CSDN通过智能技术生成

新的 NVIDIA Spectrum-X 网络平台结合了 NVIDIA Spectrum-4、BlueField-3 DPU 和加速软件; 世界领先的云服务提供商采用平台扩展生成式 AI 服务

COMPUTEX—— NVIDIA 今天宣布推出 NVIDIA Spectrum-X™ ,这是一个加速网络平台,旨在提高基于以太网的 AI 云的性能和效率。

NVIDIA Spectrum-X 基于网络创新,由 NVIDIA Spectrum-4 以太网交换机 与 NVIDIA BlueField®-3 DPU 的紧密耦合提供支持,实现了 1.7 倍的整体 AI 性能和电源效率,以及一致的、可预测的性能-租户环境。 Spectrum-X 由 NVIDIA 加速软件和软件开发工具包 (SDK) 增强,允许开发人员构建软件定义的云原生 AI 应用程序。

端到端功能的交付减少了大规模基于 Transformer 的生成式 AI 模型的运行时间。 这使网络工程师、AI 数据科学家和云服务提供商能够改进结果并更快地做出明智的决策。

世界顶级超大规模企业正在采用 NVIDIA Spectrum-X,包括行业领先的云创新者。

作为 NVIDIA Spectrum-X 参考设计的蓝图和测试平台,NVIDIA 正在构建 Israel-1,这是一台超大规模生成式 AI 超级计算机,将部署在其以色列数据中心基于 NVIDIA HGX™ H100 八 GPU 平台的戴尔 PowerEdge XE9680 服务器 上 , BlueField-3 DPU 和 Spectrum-4 开关。

NVIDIA 网络高级副总裁 Gilad Shainer 表示:“生成 AI 等变革性技术正在迫使每个企业突破数据中心性能的界限,以追求竞争优势。 “NVIDIA Spectrum-X 是一种新型以太网网络,它为有可能改变整个行业的下一代 AI 工作负载消除了障碍。”

NVIDIA Spectrum-X 网络平台用途广泛,可用于各种人工智能应用。 它使用完全基于标准的以太网,并可与基于以太网的堆栈互操作。

该平台从 Spectrum-4 开始,这是世界上第一款专为 AI 网络构建的 51Tb/秒以太网交换机。 高级 RoCE 扩展跨 Spectrum-4 交换机、BlueField-3 DPU 和 NVIDIA LinkX 光学器件协同工作,以创建针对 AI 云优化的端到端 400GbE 网络。

NVIDIA Spectrum-X 通过性能隔离增强多租户,以确保租户的 AI 工作负载以最佳和一致的方式运行。 它还提供更好的 AI 性能可见性,因为它可以识别性能瓶颈,并且具有完全自动化的结构验证功能

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值