k8s调用gpu,nvidia-docker使用gpu

       本来以为这周关于gpu的运行又要搞不定了,结果昨天,也就是周五下午,终于搞定了,内心很开森有木有,一周了,终于over了,下来我来说下我的做法。还有我要说下,没事要多去github上灌灌水,收获还是颇多的,说不定就能解决困扰好久的问题。再次感谢各位大神的分享。

       首先介绍下nvidia-docker,这是一个可以使用gpu的docker,我的理解是nvidia-docker是在docker上做了一层封装,具体还是要看源码的。通过nvidia-docker-plugin,最终还是转回调用到docker上,只不过为docker的启动带了一些必要的参数。这个是同事看nvidia-docker底层源码告诉我的。偷笑

    docker一般都是使用基于cpu的应用,而如果是gpu的话,就需要安装特有的硬件环境,比如需要安装nvidia driver。所以docker容器并不直接支持nvidia gpu。为了解决这个问题,最早的处理办法是在容器内部,全部重新安装nvidia driver,然后通过设置相应的设备参数来启动container,然而这种办法是很脆弱的。因为宿主机的driver的版本必须完全匹配容器内的driver版本,这样导致docker image无法共享,很可能本地机器的不一致导致每台机器都需要去重复操作,这很大的违背了docker的设计之初。

    为了使docker image能很便利的使用nvidia gpu,从而产生了nvidia-docker,由它来制作nvidia driver的image,这就要求在目标机器上启动container时,确保字符设备以及驱动文件已经被挂载。

  • 3
    点赞
  • 10
    收藏
    觉得还不错? 一键收藏
  • 9
    评论
要在 VSCode 中使用 Nvidia-docker 环境,您需要遵循以下步骤: 1. 首先,您需要在您的系统上安装 Nvidia 驱动程序和 Docker。 2. 然后,您需要安装 Nvidia-docker。您可以从官方网站上获得有关如何安装 Nvidia-docker 的详细说明。 3. 确保您已经启动了 Nvidia-docker,可以通过运行以下命令来验证: ``` sudo docker run --rm --gpus all nvidia/cuda:11.0-base nvidia-smi ``` 如果 Nvidia-docker 正常工作,您应该能够看到类似于以下输出: ``` +-----------------------------------------------------------------------------+ | NVIDIA-SMI 455.23.05 Driver Version: 455.23.05 CUDA Version: 11.1 | |-------------------------------+----------------------+----------------------+ | GPU Name Persistence-M| Bus-Id Disp.A | Volatile Uncorr. ECC | | Fan Temp Perf Pwr:Usage/Cap| Memory-Usage | GPU-Util Compute M. | | | | MIG M. | |===============================+======================+======================| | 0 GeForce GTX 108... On | 00000000:01:00.0 Off | N/A | | 23% 33C P8 5W / 250W | 0MiB / 11178MiB | 0% Default | | | | N/A | +-------------------------------+----------------------+----------------------+ ``` 4. 安装 VSCode 的插件“Remote-Containers”(可在 VSCode 商店中找到)。 5. 在 VSCode 中,打开您的项目,然后按下 `F1` 键,输入“Remote-Containers: Open Folder in Container”,然后选择“From Dockerfile”选项。 6. 在接下来的界面中,选择您的 Dockerfile 文件,然后 VSCode 将自动创建一个新的容器,并将其配置为使用 Nvidia-docker。 7. 现在,您可以在 VSCode 中使用 Nvidia-docker 环境了。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 9
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值