GPU虚拟化和算力隔离探讨

1. 术语介绍

术语	全称	说明
GPU	Graphics Processing Unit	显卡
CUDA	Compute Unified Device Architecture	英伟达2006年推出的计算API
VT/VT-x/VT-d	Intel Virtualization Technology	-x表示x86 CPU，-d表示Device
SVM	AMD Secure Virtual Machine	AMD的等价于Intel VT-x的技术
EPT	Extened Page Table	Intel的CPU虚拟化中的页表虚拟化硬件支持
NPT	Nested Page Table	AMD的等价于Intel EPT的技术
SR-IOV	Single Root I/O Virtualization	PCI-SIG 2007年推出的PCIe虚拟化技术
PF	Physical Function	物理卡
VF	Virtual Function	SR-IOV的虚拟PCIe设备
MMIO	Memory Mapped I/O	设备上的寄存器或存储，CPU以内存读写指令来访问
UMD	User Mode Driver	GPU的用户态驱动程序
KMD	Kernel Mode Driver	GPU的PCIe驱动
GVA	Guest Virtual Address	VM中的CPU虚拟地址
GPA	Guest Physical Address	VM看到的物理地址
HPA	Host Physical Address	Host看到的物理地址
IOVA	I/O Virtual Address	设备发出去的DMA地址
PCIe TLP	PCIe Transaction Layer Packet
BDF	Bus/Device/Function	一个PCIe/PCI功能的ID
MPT	Mediated Pass-Through	受控直通，一种设备虚拟化的实现方式
MDEV	Mediated Device	Linux中的MPT实现
PRM	Programming Rerference Manual	硬件的编程手册
MIG	Multi-Instance GPU	Ampere架构的高端GPU如A100、A30支持的一种硬件partition方案

2. GPU虚拟化的历史和谱系

GPU天然适合向量计算。最常用的情景及API：

<

场景	API
游戏渲染	OpenGL/OpenGL ES，DirectX，Vulkan，Metal
媒体编解码	VAAPI，VDPAU