新的 NVIDIA Spectrum-X 网络平台结合了 NVIDIA Spectrum-4、BlueField-3 DPU 和加速软件; 世界领先的云服务提供商采用平台扩展生成式 AI 服务
COMPUTEX—— NVIDIA 今天宣布推出 NVIDIA Spectrum-X™ ,这是一个加速网络平台,旨在提高基于以太网的 AI 云的性能和效率。
NVIDIA Spectrum-X 基于网络创新,由 NVIDIA Spectrum-4 以太网交换机 与 NVIDIA BlueField®-3 DPU 的紧密耦合提供支持,实现了 1.7 倍的整体 AI 性能和电源效率,以及一致的、可预测的性能-租户环境。 Spectrum-X 由 NVIDIA 加速软件和软件开发工具包 (SDK) 增强,允许开发人员构建软件定义的云原生 AI 应用程序。
端到端功能的交付减少了大规模基于 Transformer 的生成式 AI 模型的运行时间。 这使网络工程师、AI 数据科学家和云服务提供商能够改进结果并更快地做出明智的决策。
世界顶级超大规模企业正在采用 NVIDIA Spectrum-X,包括行业领先的云创新者。
作为 NVIDIA Spectrum-X 参考设计的蓝图和测试平台,NVIDIA 正在构建 Israel-1,这是一台超大规模生成式 AI 超级计算机,将部署在其以色列数据中心基于 NVIDIA HGX™ H100 八 GPU 平台的戴尔 PowerEdge XE9680 服务器 上 , BlueField-3 DPU 和 Spectrum-4 开关。
NVIDIA 网络高级副总裁 Gilad Shainer 表示:“生成 AI 等变革性技术正在迫使每个企业突破数据中心性能的界限,以追求竞争优势。 “NVIDIA Spectrum-X 是一种新型以太网网络,它为有可能改变整个行业的下一代 AI 工作负载消除了障碍。”
NVIDIA Spectrum-X 网络平台用途广泛,可用于各种人工智能应用。 它使用完全基于标准的以太网,并可与基于以太网的堆栈互操作。
该平台从 Spectrum-4 开始,这是世界上第一款专为 AI 网络构建的 51Tb/秒以太网交换机。 高级 RoCE 扩展跨 Spectrum-4 交换机、BlueField-3 DPU 和 NVIDIA LinkX 光学器件协同工作,以创建针对 AI 云优化的端到端 400GbE 网络。
NVIDIA Spectrum-X 通过性能隔离增强多租户,以确保租户的 AI 工作负载以最佳和一致的方式运行。 它还提供更好的 AI 性能可见性,因为它可以识别性能瓶颈,并且具有完全自动化的结构验证功能