GPU 简介和 NVIDIA P100 KVM虚拟机使用直通模式获取设备

1. 简介：

对于GPU卡的物理机器，我们都知道，必然是几百G的内存，至少20核等超高配置，仅仅提供给一个用户来使用，太浪费资源了。 那么可以将在同一台机器上的GPU分出来提供给多用户使用，类似于CPU一样，可以提供给虚拟机使用，就将物理资源共享给了更多的用户。

2. 为何要使用GPU？为何不使用性能更强大的CPU？

GPU本身是作为显卡来使用，具有图形渲染等能力，但是对于图形图像等的处理，随着3D等技术的出现之后，计算机就特别吃计算资源了。

于是，nvidia 公司率先出了一款具有计算能力的GPU，使用GPU来部分分担CPU的计算能力，性能得到了质的飞越，于是，GPU向计算能力的发展时代就开始了。

随后，人工智能，深度学习等AI领域迅猛发展，例如人脸识别，那么要处理每秒处理成千上万张高清图片，或者数十万图片，极其消耗GPU资源了。打个比方，如果你在用个人电脑玩游戏，FPS，即每秒钟的帧数，能超过100已经是很好的显卡配置了，此时的画质等都还是在保证流畅的情况下得出的，可见，FPS是多么的吃GPU资源啊。

此时，GPU的高性能也在图形图像，并行计算，机器学习，等领域得到用武之地，其实纵观GPU的性能提升的发展方向，这些也是互相作用发展的最终结果。

GPU和CPU的对比结果图如下，

看下面两张图，如果CPU具有多核结构的话，例如最通用的2socket结构，具有了20个物理核心，然而GPU，以P100和V100为例，分别具有4000+个核心和5000+个核心的，我们都知道，在这些核心都能被充分利用的情况下，核心越多计算能力也越强。右图是他们的详细物理设备逻辑结构图，CPU具有控制器和运算器两部分构成，可以对OS上面复杂的任务，除了计算之外，还可以进行资源管理调度等。而GPU，是通过CPU将大量并行任务移交到GPU，GPU对重复任务进行并行执行，来提高了整体的性能。而GPU的数以千计的核，虽具有高性能计算能力，但是仍然离不开CPU这个大脑神经中枢。这就是为什么GPU具有特定的