Docker配置GPU问题

已于 2022-06-16 09:28:04 修改
阅读量1.8k 收藏
点赞数
分类专栏： # 系统安全 文章标签： docker 容器 运维
于 2022-03-11 16:37:16 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/u012655441/article/details/123428362
版权

最近在部署深度学习模型，用到Docker，在推理阶段需要用到GPU，因此有了这个需求：通过Docker使用服务器上的GPU设备。

在这里就不详细展开，网上有很多的教程。Docker19.0以上就支持nvidia-docker了。而在配置过程中主要记录两个bug：

  1. docker --gpus Failed to initialize NVML: Unknown Error
    解决方案：https://bbs.archlinux.org/viewtopic.php?id=266915

在这里插入图片描述

  1. nvidia-container-cli: container error: cgroup subsystem devices not found
    主要解决方案：和https://github.com/NVIDIA/nvidia-docker/issues/1447和https://github.com/NixOS/nixpkgs/issues/127146

在这里插入图片描述

RyanC3
关注
专栏目录
ubuntu 20.04上docker 使用gpu
学-> 思->用
05-30 630
要在Docker容器中使用GPU，你需要确保系统上已经安装了正确的NVIDIA驱动程序，并且安装了NVIDIA Container Toolkit。
配置 Docker 使用 GPU
CODE杂谈
03-03 2344
我将以阿里云竞价实例来配置使用 GPU 的 Docker 环境，希望这个例子能对你有所帮助。
docker run指定gpu运行
qq_15821487的博客
07-04 6598
请注意，如果您的 Docker 版本不支持 NVIDIA Container Toolkit，则无法使用 --gpus 标志来指定 GPU。在这种情况下，您需要手动配置容器以使用 GPU。要在 docker run 命令中指定 GPU，您需要使用 --gpus 标志。如果你要使用前3个gpu,可以这样配置docker run --gpus 3 your_image。–gpus “device=2,3”: 使用第三和第四个 GPU 设备。–gpus “device=0”: 使用第一个 GPU 设备。
Go-NVIDIADocker借助NVIDIAGPUs来构建和运行Docker容器
08-14
NVIDIA Docker 借助NVIDIA GPUs来构建和运行Docker容器
【ubuntu noble】docker 容器无法使用 nvidia gpu
weixin_41899098的博客
06-27 398
注意默认的还是 runc。
docker 中使用gpu
ResumeProject的博客
03-12 4036
如果没有正确配置会报错：could not select device driver “” with capabilities: [[gpu]].
docker中使用gpu
qq_42152032的博客
06-22 1万+
本机想要启用gpu加速计算，需要由一张多余的nVidia显卡。需要提前禁用nouveau：lsmod | grep nouveau没有输出即禁用了 需要安装1、显卡驱动、2、cuda库(安装cuda会自动安装显卡驱动)3、cudnn(深度神经网络的GPU加速库,需要神经网络则安否则可以不安) 安装完成后，可以运行nvidia-smi查看GPU设备的状态。
docker中使用gpu_docker gpu(1)，2024年最新Linux运维线程池基础入门和简单实践以及使用技巧
2401_83620690的博客
04-17 1459
最近很多小伙伴找我要Linux学习资料，于是我翻箱倒柜，整理了一些优质资源，涵盖视频、电子书、PPT等共享给大家！
docker创建容器时使用--gpus all报错解决
marsjin的专栏
05-10 1309
我们在通过 --gpus 参数来使用宿主机的 GPU 时，需要先安装一个英伟达的容器运行时。1，任意路径下创建nvidia-container-runtime-script.sh文件。4，重启docker。
ubuntu下docker环境使用GPU配置
zysss_的博客
11-22 2235
在容器里面运行一下再验证一下，能正常显示上面那个图案就是能成功调用了，注意那个cuda版本要能显示，要是现实 N/A的话是不行的。docker的版本必须安装19.0版本以上的，这里也只讲19.0版本以上的使用方法。然后配置一下文件，这样容器才能使用runtime。cuda版本显示N/A的话用以下格式创建容器。本文主要讲述整个命令流程，具体讲解请看官网。运行该命令验证是否安装成功。和一篇总结得很详细的博文。然后按照以下格式创建容器。出现这个就是安装成功了。首先设置一下网络信息。
chatglm2的anaconda+gpu、docker+gpu、wsl+gpu部署
08-24
ChatGLM2 模型部署指南 - Anaconda+GPU、Docker+GPU、WSL+GPU 部署 ChatGLM2 是一个开源的双语对话语言模型，为了部署该模型，需要选择合适的环境和依赖项。本文将详细介绍 ChatGLM2 模型的 Anaconda+GPU、Docker+...
docker用gpu的参数_nvidia-docker 配置GPU
weixin_31309419的博客
12-30 999
-- WARNING, the following logs are for debugging purposes only --I1222 07:23:32.708870 78755 nvc.c:282] initializing library context (version=1.3.0, build=16315ebdf4b9728e899f615e208b50c41d7a5d15)I122...
如何在docker中访问电脑上的GPU？如何在docker中使用GPU进行模型训练或者加载调用？
代码讲故事
02-02 2620
如何在docker中访问电脑上的GPU？如何在docker中使用GPU进行模型训练或者加载调用？
Docker部署GPU模型服务
reno_yuan的博客
08-23 826
Docker部署GPU模型服务
Docker命令
zoetu
10-13 413
docker使用命令
Docker使用教程之命令大全
热门推荐
yiyele的博客
05-22 3万+
Docker 使用教程 主要命令 搜索需要的image docker search XXX 拉取镜像： docker image pull XXX 运行docker： docker run --gpus all -itd --name xxq_tf2 -v /home/work/xx/data:/root/data -v /home/work/xx/algpt2:/root/algpt2 -v /home/work/xx/algpt2:/root/xx patientzero/tensorf
Ubuntu16.04安装nvidia-docker2
woods的博客
12-13 673
安装docker Ubuntu16.04安装docker 安装nvidia-docker2 参考官方提供的readme # Add the package repositories distribution=$(. /etc/os-release;echo $ID$VERSION_ID) curl -s -L https://nvidia.github.io/nvidia-docker/gpgke...
docker常用指令
ziliwangmoe的博客
01-01 239
把image存为文件，用于传输： docker save -o xxx.tar image_name 把文件导出成image： docker load -ixxx.tar 启动带gpu的image： docker run -it --rm --gpus all image_name /bin/bash mount: docker run -it --rm --gpus ...
docker-镜像：使用GPU训练的简易教程以及一些常用命令
civiljiao的博客
10-22 1014
下载基础镜像查看镜像运行容器查看正运行容器docker ps输入命令会进到容器中，如上图.在容器中写测试是否可以使用GPU的脚本执行脚本退出容器exit删除容器。
docker desktop gpu加速
最新发布
08-13
Docker Desktop GPU 加速是指通过集成支持 NVIDIA 显卡的技术，使得在 Docker 容器中运行对GPU有高需求的应用程序时能够更高效地利用硬件资源。通常，这涉及到安装 Docker 对 NVIDIA 驱动的支持，比如 nvidia-docker 或者 NVIDIA Container Toolkit，它们允许你在容器中访问宿主机的 GPU。 以下是使用 Docker Desktop GPU 加速的基本步骤： 1. **确认硬件支持**：确保你的计算机配备了NVIDIA GPU，并且驱动已更新到最新版本。 2. **安装相关插件**：在Docker Desktop中，你可以安装nvidia-docker2 或 NVIDIA Container Toolkit 插件，以便管理GPU容器。 3. **配置环境变量**：在 Dockerfile 中设置环境变量，如`--gpus all` 或 `--runtime=nvidia`，告诉Docker使用GPU。 4. **运行GPU容器**：创建并启动包含GPU计算任务的Docker镜像，应用将能直接使用GPU资源。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值