GPU直通、GPU共享及GPU虚拟化比较

最新推荐文章于 2024-09-19 20:07:17 发布

rayylee

最新推荐文章于 2024-09-19 20:07:17 发布

阅读量1.1w

点赞数 4

分类专栏：云计算与虚拟技术

本文链接：https://blog.csdn.net/hbuxiaofei/article/details/106757002

版权

云计算与虚拟技术专栏收录该内容

97 篇文章 24 订阅

订阅专栏

GPU直通：将GPU设备直通给虚拟机

PCI直通
硬件直通是指将物理主机的硬件资源直接挂载给虚拟机使用，不需要经过hypervisor的模拟和过滤，虚拟机发的命令直接送到物理设备。GPU直通模式是最早采用也最成熟的方案。三家（Nvidia Tesla，AMD FirePro，Intel Gen8/Gen9）都有支持。
直通模式的实现依赖于IOMMU的功能。VTD对IOVA的地址转换使得直通设备可以在硬件层次直接使用GPA（Guest Physical Address）地址。
直通模式的技术方案与其他任何PCI直通没有任何区别。直通模式是对比物理机性能损耗最小，硬件驱动无需修改的方案，被各大公用云厂商广泛采用。
对于支持直通的GPU而言，直通模式没有对可支持的GPU数量做限制，也没有对GPU功能性做阉割。GPU厂家的绝大多数新功能可以在直通模式下无修改地支持。通过直通技术可以向虚拟机提供接近原生硬件的访问性能。
SR-IOV
SR-IOV是在硬件直通技术的增强，可以在硬件资源有限的情况先仍然能够利用到直通技术的性能。
该技术可以在硬件层面虚拟成多个设备，被多台虚拟机直通使用。利用该技术可以保持原生硬件的性能。
GPU SRIOV那么这个世界上就只有两款产品：S7150和MI25，都出自AMD。当然AMD的产品规划应该是早已安排到几年以后了，未来将看到更多的GPU SRIOV产品的升级换代。
S7150针对的是图形渲染的客户群体，而MI25则针对机器学习，AI的用户群体。

GPU共享

将GPU设备直通给GPU server虚拟机，GPU server可与GPU client（这些GPU client与GPU server运行在相同主机上）共享其 GPU设备。

GPU虚拟化

部分型号的GPU设备可虚拟化为n个vGPU（其中n与GPU具体型号有关），n个虚拟机可同时直接使用该GPU设备。包括Intel GVT-g和Nvidia GRID vGPU），VMWare的GPU全虚拟化（vSGA）。

GPU虚拟化通过VGX GPU硬件虚拟化功能，使得一个物理GPU设备可虚拟为多个虚拟GPU设备供虚拟机使用，每个虚拟机通过绑定的vGPU可以直接访问物理GPU的部分硬件资源(所有vGPU都能够分时共享访问物理GPU的3D图形引擎和视频编解码引擎，并拥有独立的显存)
同GPU直通相比，GPU虚拟化功能支持将一个物理GPU设备可同时供多个虚拟机使用而GPU直通中一个GPU设备只能给一个虚拟机使用
同GPU共享相比，GPU虚拟化特性中同时使用同一GPU物理设备的虚拟机间互不影响，系统自动协调、分配物理GPU设备的处理能力给多个虚拟机，而GPU共享是通过GPU server挂载GPU设备，在主机上建立GPU Server与GPU client的高速通讯机制使得GPU client可以共享GPU server的GPU设备, 即：GPU client是否享有GPU功能依赖于GPU server

2018年5月14日，NVIDIA发布NVIDIA virtual GPU software 6.1 (390.57/391.58)，正式增加了对RedHat KVM虚拟化上NVIDIA virtual GPU支持。

软硬件支持情况：
在这里插入图片描述

详细支持见：https://docs.nvidia.com/grid/6.0/product-support-matrix/index.html

NVIDIA vGPU Architecture

详见： https://docs.nvidia.com/grid/6.0/

Virtual GPU 类型选择:
Q-series virtual GPU types are targeted at designers and power users.
B-series virtual GPU types are targeted at power users.
A-series virtual GPU types are targeted at virtual applications users.

注：M6和M60支持在图形模式和计算模式间切换

参考：
https://forum.huawei.com/enterprise/zh/thread-336025.html
https://blog.csdn.net/yunqiinsight/article/details/80134474
https://blog.csdn.net/isclouder/article/details/80462949
https://docs.nvidia.com/grid/latest/grid-vgpu-user-guide/index.html