GPU虚拟化

提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档

---

前言

本文主要以NVIDIA GPU为例介绍虚拟化方案。

---

方案概述

GPU虚拟化是指将一个物理GPU划分为多个虚拟GPU（vGPU），从而使多个虚拟机或容器可以共享同一个物理GPU资源。GPU虚拟化技术中多个虚拟GPU之间相互隔离互不干扰；通过GPU虚拟化技术还可以给虚拟机或容器动态分配GPU算力，从而提高GPU资源利用率和灵活性。

NV方案

Pass-Through

在GPU直通模式下，整个物理GPU直接分配给一个VM，绕过NVIDIA虚拟GPU管理器。在这种操作模式下，GPU仅由在分配给它的VM中运行的NVIDIA驱动程序访问。GPU不在VM之间共享。

vGPU

NVIDIA虚拟GPU（vGPU）使用部署在非虚拟化操作系统上的相同NVIDIA图形驱动程序，使多个虚拟机（VM）能够同时直接访问单个物理GPU。通过这样做，NVIDIA vGPU为虚拟机提供了无与伦比的图形性能、计算性能和应用程序兼容性，以及在多个工作负载之间共享GPU带来的成本效益和可扩展性。

vGPU系统架构

NVIDIA vGPU系统架构