NVLink 和 NVLink Switch

高速、多 GPU 通信的基础模组，助力将大型数据集更快地输入模型并在 GPU 之间快速交换数据。

---

前言

速度更快的纵向扩展互连已成为当前的迫切需求

是否能释放百亿亿次级 (Exascale) 计算和万亿参数 AI 模型的全部潜力取决于服务器集群中每个 GPU 之间能否快速、顺畅地通信。第五代 NVIDIA® NVLink® 是一种纵向扩展的互连，可为万亿和数万亿参数 AI 模型释放加速性能。

---

一、简介

借助 NVIDIA NVLink 技术最大化地提升系统吞吐量

第五代 NVLink 大幅提高了大型多 GPU 系统的可扩展性。单个 NVIDIA Blackwell Tensor Core GPU 支持多达 18 个 NVLink 100 GB/s 连接，总带宽可达 1.8 TB/s，比上一代产品提高了两倍，是 PCIe 5.0 带宽的 14 倍之多。72-GB200 GPU NVLink 域 (NVL72) 等服务器平台利用该技术为当今异常复杂的大型模型提供更高的可扩展性。

二、NVLink 性能