Docker配置GPU问题

已于 2022-06-16 09:28:04 修改
阅读量1.7k 收藏
点赞数
分类专栏： # 系统安全 文章标签： docker 容器 运维
于 2022-03-11 16:37:16 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/u012655441/article/details/123428362
版权

最近在部署深度学习模型，用到Docker，在推理阶段需要用到GPU，因此有了这个需求：通过Docker使用服务器上的GPU设备。

在这里就不详细展开，网上有很多的教程。Docker19.0以上就支持nvidia-docker了。而在配置过程中主要记录两个bug：

  1. docker --gpus Failed to initialize NVML: Unknown Error
    解决方案：https://bbs.archlinux.org/viewtopic.php?id=266915

在这里插入图片描述

  1. nvidia-container-cli: container error: cgroup subsystem devices not found
    主要解决方案：和https://github.com/NVIDIA/nvidia-docker/issues/1447和https://github.com/NixOS/nixpkgs/issues/127146

在这里插入图片描述

RyanC3
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
docker用gpu的参数_nvidia-docker 配置GPU
weixin_31309419的博客
12-30 968
-- WARNING, the following logs are for debugging purposes only --I1222 07:23:32.708870 78755 nvc.c:282] initializing library context (version=1.3.0, build=16315ebdf4b9728e899f615e208b50c41d7a5d15)I122...
配置 Docker 使用 GPU
CODE杂谈
03-03 2296
我将以阿里云竞价实例来配置使用 GPU 的 Docker 环境，希望这个例子能对你有所帮助。
docker和nvidia-docker的安装以及错误记录
fxmtb的博客
05-10 3122
docker和nvidia-docker的安装以及错误记录
Failed to initialize NVML: Unknown Error
最新发布
jacke121的专栏
06-03 170
Failed to initialize NVML: Unknown Error
kubernetes: ubuntu系统下pod申请nvidia GPU一段时间后，执行nvidia-smi报Failed to initialize NVML: Unknown Error的原因分析
纵横四海的博客
05-20 840
docker 版本docker 的 cgroupdriver=systemd查看驱动设备原因是因为： ubuntu系统自动更新后会执行命令,导致挂载到容器里的cgroup处于不写状态 通过命令查看，可以看到处于不可写的状态复现issuse: https://github.com/NVIDIA/nvidia-docker/issues/1650。
Docker中Failed to initialize NVML: Unknown Error
ZnS_oscar的博客
10-29 5751
需要在服务器上docker的admin list之中. 不需要服务器整体的admin权限. 我在创建docker的时候向管理员申请了把握加到docker list当中了. 如果你能够创建docker你就满足这个条件了。在主机上nvidia-smi正常, 但是在docker上报错如标题.查看我的container_id, 然后使用。解决: 使用上述方法修改. 但是有一些不同。关闭我的container, 再使用。然后再重启我的container.
Ubuntu16.04安装nvidia-docker2
woods的博客
12-13 655
安装docker Ubuntu16.04安装docker 安装nvidia-docker2 参考官方提供的readme # Add the package repositories distribution=$(. /etc/os-release;echo $ID$VERSION_ID) curl -s -L https://nvidia.github.io/nvidia-docker/gpgke...
docker中使用gpu
热门推荐
qq_42152032的博客
06-22 1万+
本机想要启用gpu加速计算，需要由一张多余的nVidia显卡。需要提前禁用nouveau：lsmod | grep nouveau没有输出即禁用了 需要安装1、显卡驱动、2、cuda库(安装cuda会自动安装显卡驱动)3、cudnn(深度神经网络的GPU加速库,需要神经网络则安否则可以不安) 安装完成后，可以运行nvidia-smi查看GPU设备的状态。
docker + pycharm+GPU 远程开发配置环境教程.pdf
11-23
Docker + PyCharm + GPU 远程开发配置环境教程 本教程旨在指导读者如何使用 Docker、PyCharm 和 GPU 进行远程开发配置环境。下面是相关知识点的总结： 一、Docker 基础知识 * Docker 是一种开源的应用容器引擎，...
chatglm2的anaconda+gpu、docker+gpu、wsl+gpu部署
08-24
ChatGLM2 模型部署指南 - Anaconda+GPU、Docker+GPU、WSL+GPU 部署 ChatGLM2 是一个开源的双语对话语言模型，为了部署该模型，需要选择合适的环境和依赖项。本文将详细介绍 ChatGLM2 模型的 Anaconda+GPU、Docker+...
nvidia-docker:利用NVIDIA GPU构建和运行Docker容器
05-10
NVIDIA容器工具包 介绍 NVIDIA Container Toolkit允许用户构建和运行GPU加速的Docker容器。...提供了有关在Docker上运行GPU容器时可用的配置和命令行选项的信息。 问题与贡献 请让我们知道 您可以通过打开来做出贡献
V100 机器 CUDA 环境和docker GPU 安装
02-06
现在，你已经成功地在CentOS Linux服务器上设置了NVIDIA V100显卡的CUDA环境，并且配置了支持GPU的Docker环境。这为运行需要GPU加速的人工智能应用打下了坚实的基础。在Docker容器内部，你可以使用NVIDIA的CUDA工具...
Ubuntu20.04离线部署nvidia-docker
04-22
编辑Docker配置文件： ```bash sudo nano /etc/docker/daemon.json ``` 然后添加以下内容（如果文件为空）： ```json { "default-runtime": "nvidia", "runtimes": { "nvidia": { "path": "/usr/bin/nvidia-...
nvidia-docker2.zip
11-05
2. **nvidia-container-runtime-hook-1.3.0-1.x86_64.rpm**：这是一个钩子（hook）包，它在Docker的生命周期事件（如启动、停止等）中插入自定义逻辑，确保NVIDIA GPU的正确配置和使用。通过这个钩子，NVIDIA容器...
nvidia-docker 离线rpm包
01-31
【nvidia-docker 离线rpm包】是专为在没有互联网连接的环境...安装完成后，你需要按照NVIDIA Docker的官方指南配置Docker，以便能够识别和使用GPU资源。这样，你就可以在你的Docker容器中充分利用NVIDIA GPU的性能了。
Ubuntu离线安装docker与nvidia-docker离线资源包
06-09
NVIDIA-docker则是Docker的一个扩展，它为Docker添加了对NVIDIA GPU的支持，使得GPU加速的应用程序可以在容器内无缝运行。 离线安装Docker的第一步是获取Docker的.deb安装包。通常，你可以从Docker官网下载最新版本...
Docker的安装
weixin_43403578的博客
08-30 347
CentOS7 版本安装Docker 1、安装依赖包 [root@localhost ~]# yum install -y yum-utils device-mapper-persistent-data lvm2 2、添加Docker软件包源 [root@localhost ~]# yum-config-manager --add-repo https://download.docker.com...
Docker 版本升级
houyshuai的博客
12-08 1244
docker 升级到指定版本 - wangzy-Zj - 博客园 在遇到如下错误时， docker Error response from daemon: client version 1.40 is too new. Maximum supported API version is 如不想进行docker版本升级，可直接修改docker版本环境变量： export DOCKER_API_VERSION=1.39 docker Error response from daemon: cl.
docker run指定gpu运行
qq_15821487的博客
07-04 5594
请注意，如果您的 Docker 版本不支持 NVIDIA Container Toolkit，则无法使用 --gpus 标志来指定 GPU。在这种情况下，您需要手动配置容器以使用 GPU。要在 docker run 命令中指定 GPU，您需要使用 --gpus 标志。如果你要使用前3个gpu,可以这样配置docker run --gpus 3 your_image。–gpus “device=2,3”: 使用第三和第四个 GPU 设备。–gpus “device=0”: 使用第一个 GPU 设备。
docker swarm gpu
09-02
Docker Swarm是一个用于管理和编排Docker容器的工具，可以轻松地将多个Docker主机组成一个容器集群，并统一进行管理。Docker Swarm会将容器自动分布到各个节点上，以实现容器的高可用性和负载均衡。 GPU（Graphics Processing Unit）是图形处理单元的缩写，是一种用于加速计算的专用处理器。GPU可以高效地处理大规模的并行计算任务，广泛应用于科学计算、深度学习、图形渲染等领域。 Docker Swarm与GPU的结合，即Docker Swarm GPU，为用户提供了在容器集群中使用GPU的能力。通过将GPU资源纳入Docker Swarm集群的管理范围，可以更加方便地进行GPU加速的计算任务。 在Docker Swarm GPU中，用户可以将需要使用GPU的容器标记为服务，并在启动服务时指定使用的GPU资源。Docker Swarm会根据配置和可用的GPU资源，自动将容器调度到拥有所需GPU资源的节点上运行。 同时，Docker Swarm GPU还提供了对GPU资源的限制和监控功能。用户可以通过设置GPU资源配额，限制每个容器所使用的GPU资源数量，以避免资源之间的竞争。同时，用户还可以通过监控和日志功能，实时查看容器的GPU使用情况和性能指标。 总结来说，Docker Swarm GPU为用户提供了在容器集群中高效使用GPU资源的功能。它使得GPU计算变得更加灵活便捷，方便用户进行科学计算、机器学习、深度学习等应用，提升了计算任务的效率和性能。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值