安装使用NVIDIA-Docker——可使用GPU的Docker容器

最新推荐文章于 2024-06-26 21:04:24 发布

XYKenny

最新推荐文章于 2024-06-26 21:04:24 发布

阅读量9.2k

点赞数 1

分类专栏： docker 文章标签： docker

本文链接：https://blog.csdn.net/XYKenny/article/details/91039552

版权

本文介绍了如何在已有Docker基础上安装和使用NVIDIA-Docker，以解决Docker容器直接使用NVIDIA GPU的问题。通过nvidia-docker-plugin，可以将宿主机的GPU驱动挂载到容器中，使得GPU应用能够在容器内正常运行。文章详细阐述了安装NVIDIA-Docker的步骤，包括Docker的预先安装、NVIDIA显卡驱动的安装以及nvidia-docker的安装和启动。最后，还展示了在Kubernetes中配置GPU使用的示例。

摘要由CSDN通过智能技术生成

参考网址：
https://www.cnblogs.com/wuchangsoft/p/9767074.html

nvidia-docker是一个可以使用GPU的docker，nvidia-docker是在docker上做了一层封装，通过nvidia-docker-plugin，然后调用到docker上，其最终实现的还是在docker的启动命令上携带一些必要的参数。因此在安装nvidia-docker之前，还是需要安装docker的。

docker一般都是使用基于CPU的应用，而如果是GPU的话，就需要安装特有的硬件环境，比如需要安装nvidia driver。所以docker容器并不直接支持Nvidia GPU。为了解决这个问题，最早的处理办法是在容器内部，全部重新安装nvidia driver，然后通过设置相应的设备参数来启动container，然而这种办法是很脆弱的。因为宿主机的driver的版本必须完全匹配容器内的driver版本，这样导致docker image无法共享，很可能本地机器的不一致导致每台机器都需要去重复操作，这很大的违背了docker的设计之初。

为了使docker image能很便利的使用Nvidia GPU，从而产生了nvidia-docker，由它来制作nvidia driver的image，这就要求在目标机器上启动container时，确保字符设备以及驱动文件已经被挂载。

nvidia-docker-plugin是一个docker plugin，被用来帮助我们轻松部署container到GPU混合的环境下。类似一个守护进程，发现宿主机驱动文件以及GPU 设备，并且将这些挂载到来自d