【笔记】GPU Direct技术

GPU Direct 技术包括 GPUDirect Storage、GPUDirect RDMA、GPUDirect P2P 和 GPUDirect Video
1、GPU Direct Storage

原理简介：从原始的存储器-->内存-->GPU，改变为直接从存储器-->GPU，从而无需先将数据拷贝到内存中

特点与优势：
减少CPU参与，低延时，提高存储性能，增加可扩展性，兼容性和生态支持

参考博客：[GPUDirect 存储器：存储器和 GPU 存储器之间的直接路径 - NVIDIA 技术博客](https://developer.nvidia.com/zh-cn/blog/gpudirect-storage/)

### 2、GPU Direct P2P

原理简介：应用场景是同一个服务器中GPU之间互相访问，没有P2P之前，数据访问是
GPU0-->主机内存-->GPU1，红色路径，有P2P之后数据访问直接GPU0-->GPU1，绿色路径。

### 3、GPU Direct RDMA

原理简介：使用支持RDMA的第三方设备对连，实现了在 GPU 和 RDMA 网络设备之间直接进行数据传输和通信的能力。它允许 GPU 直接访问 RDMA设备中的数据，无需通过主机内存或 CPU作为中介。

### 4、GPU Direct Video

原理简介：帮助 IO 板制造商编写设备驱动程序，允许第三方硬件与 NVIDIA GPU 高效通信，并最大限度地减少历史延迟问题。借助 NVIDIA GPUDirect for Video，IO 设备与 GPU 和 CPU 完全同步，以最大限度地减少在设备驱动程序之间复制数据的浪费周期。

特点与优势：
1、通过固定主机内存复制数据，避免不必要的系统内存拷贝和 CPU 开销
2、同步传输允许 GPU 和视频 I/O 设备协同工作，无需人工等待状态以确保完成
3、通过传输较小的数据块来减少延迟，而不是等待整个字段或帧完成
参考博客：[NVIDIA GPUDirect for Video | NVIDIA Developer](https://developer.nvidia.com/gpudirectforvideo)