如何使用 GPU 访问运行 Docker Compose 容器

最新推荐文章于 2024-07-05 11:31:57 发布
最新推荐文章于 2024-07-05 11:31:57 发布
阅读量1.1k 收藏
点赞数
分类专栏： Docker最全实战教程 运维 文章标签： docker 容器 运维
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/wlcs_6305/article/details/126002461
版权
本文详细介绍了如何在 Docker Compose 中启用 GPU 支持，包括准备系统，确保使用正确的容器镜像，以及通过 `docker-compose.yml` 文件配置 GPU 访问。重点强调了 `deploy.resources.reservations.devices` 字段的使用，允许访问特定数量或特定设备。通过 Docker Compose，可以更方便地管理和使用 GPU 资源。
摘要由CSDN通过智能技术生成

在这里插入图片描述
Docker 中的 GPU 访问可让您将要求苛刻的工作负载（例如机器学习应用程序）容器化。当您启动新容器时，GPU 不会自动可用，但可以使用–gpus标志docker run或通过向文件添加额外字段来激活它们docker-compose.yml。

在本文中，我们将展示如何在 Docker Compose 中启用 GPU 支持。您需要 Docker Compose 版本 v1.28 或更高版本才能遵循该指南。Compose 版本 v1.18 及更早版本不支持 GPU；v1.19 和 v1.27 之间的版本使用提供较少控制的遗留字段结构。

准备您的系统

您的 Docker 主机需要先准备好，然后才能公开您的 GPU 硬件。尽管容器共享您主机的内核，但它们看不到您已安装的系统包。普通容器将缺少与 GPU 交互的设备驱动程序。
您可以通过安装 NVIDIA 的 Docker Container Toolkit 来激活对 NVIDIA GPU 的支持：

distribution=
了解本专栏 订阅专栏 解锁全文 超级会员免费看
mikes zhang
关注
专栏目录
订阅专栏
快速部署私有化大模型 毕昇（使用docker-compose方式)
07-31
Docker Compose允许你在一个YAML文件中定义多容器的Docker应用，这使得环境搭建和应用程序的部署变得简单而一致。 首先，你需要准备一个docker-compose.yml配置文件，在这个文件中，你将定义所有必要的服务、网络...
Docker 如何支持 NVIDIA GPU
美味小鱼的杂货铺
06-21 3152
我们在 Linux 系统上成功配置了 Docker 支持 GPU。利用 GPU 加速，您可以显著提升高性能计算任务的效率。无论是单个容器还是通过 Docker Compose 管理的多容器环境，Docker 的 GPU 支持都使得高性能计算变得更加便捷和高效。希望这篇博客对您在 Linux 上配置 Docker GPU 支持有所帮助！如果在配置过程中遇到任何问题，可以参考Docker 官方文档或社区论坛寻求帮助。
精通Docker Compose: 在docker-compose.yml中配置硬件资源访问
walkskyer的博客
03-06 1348
Docker容器是建立在Docker引擎之上的轻量级、可执行的独立软件包，它包含了运行某个应用所需的所有内容：代码、运行时环境、库、环境变量和配置文件等。Docker利用Linux内核的特性，如cgroups和namespace，来隔离应用的执行环境。这种隔离确保了容器内的应用运行在一个独立的环境中，与宿主机及其他容器相互独立。尽管容器与宿主机共享相同的内核，但它们可以被限制只使用指定的资源，如CPU、内存等。
Qanything-docker-compose yaml文件（内含GPU 配置，备用学习）
最新发布
消极的人永远是对的，积极的人选择勇往直前
07-05 455
【代码】Qanything-docker-compose yaml文件（内含GPU 配置，备用学习）
docker compose建立容器使用gpu本地驱动
机器人梦想家 Bing
03-13 2013
本文用来记录如何下载使用版本并配置使用gpu host.v2 版本使用插件方式安装, 与v1版本可共存, 只是引导方式有不同v2 使用命令而不是简单记录如何在容器中使用gpu支持.
docker-compose 升级；yaml文件编写；gpu使用
weixin_42357472的博客
12-15 2327
这里注意：yaml里gpu索引不一样，device_ids: [‘1’,‘3’,‘2’]是外部服务器gpu的索引号，yaml内部gpu索引号是按device_ids列表的索引：及内部0 device_ids第一个实际外部的1，内部1 device_ids第一个实际外部的3，内部2 device_ids第一个实际外部的2；然后放到/usr/bin/文件下覆盖，有的是会放到/usr/local/bin/，本机是放在/usr/bin/下。升级到1.29.2版本。注意：yaml内部gpu对应方式。
docker container 指定gpu设备
脚印
12-24 1047
2， 执行以下命令。
docker-compose监控nVidia GPU
mmmogg的博客
01-09 750
可以选择docker-compose去运行nvidia_smi_exporter （推荐）可以选择docker run 去运行nvidia_smi_exporter。prometheus配置。
Docker 安装 和 GPU 支持
ytusdc的博客
07-21 1747
而对于Unix Socket而言，它默认是属于root用户的，其他用户要使用的话，必须在每句命令前加sudo，这样的话Docker daemon就一直是运行在root用户上了。换句话说，我们新建一个Unix用户组，名叫docker（当然你可以叫它别的名字），然后在这个用户组中，添加一个用户，这样使得daemon启动的时候，使用的Unix Socket是属于这个用户的，而不是root，那么就不需要sudo了。在启动容器时使用--gpus 使主机上的GPU可访问，并且可以配置使用多少块GPU。
GPU-Jupyterhub：设置一个Jupyterhub Docker容器以生成具有GPU支持（包含Tensorflow，Pytorch和Keras）的Jupyter Notebook
02-04
此存储库包含docker-compose.yml，用于定义运行Jupyter_Images下Dockerfile中描述的Jupyter Notebook映像的依赖项。 Jupyter Notebook映像有一个，基于CUDA10.0和Ubuntu18.04。 它会从Jupyterhub（由Dockerfile....
containers:Docker 容器，可在任何地方轻松启动 Folding@home 客户端！
05-30
官方的 Folding@home 容器设计简单，可在任何容器环境中运行 - 台式机、笔记本电脑、Kubernetes、Helm、Docker Compose、OpenShift、云...... 容器跟踪 Folding@home 客户端的稳定版本（2 周没有发现错误）。 它们...
纯离线安装nvidia-container-toolkit（deb）完整部署包（v1.12.0）
06-18
经测试，在ESXI7.0.3+ubuntu22.04（直通RTX3090）+gpu驱动545.29.06+CUDA12.1+docker26.1.4+docker-compose2.27.1环境下，以gpu模式启动m3e-large-api容器，亲测有效 四、安装方法（Linux） ①复制到系统任意位置 ②...
pingprom：Prometheus正常运行时间监控快速入门
02-03
- 使用`docker-compose.yml`配置文件来定义我们的服务网络和依赖关系。在`pingprom-master`目录下，找到或创建这个文件，定义Prometheus、blackbox_exporter和pingprom的服务。确保配置文件中包含了探测的目标URL、...
分布式训练 最小化部署docker swarm + docker-compose落地方案
不忘初心，方得始终
08-27 1312
机器具备docker、NVIDIA显卡、NVIDIA驱动等相关安装包和硬件设施，nvidia-smi 可以正常显示出机器的GPU显卡。
巧用 Docker Compose 管理 GPU 资源
开源世界
05-13 1158
在容器中使用 GPU 一直是使用 Compose 的一个痛点！ 在面向 AI 开发的大趋势下，容器化可以将环境无缝迁移，将配置环境的成本无限降低。但是，在容器中配置 CUDA 并运行 TensorFlow 一段时间内确实是个比较麻烦的时候，所以我们这里就介绍和使用它。 Enabling GPU access with Compose Runtime options with Memory, CPUs, and GPUs The Compose Specification The Compose Specif
centos7.9 docker使用GPU 配置
m0_58617940的博客
11-06 326
centos7.9 docker使用GPU 配置
如何在docker-compose中使用gpu
热门推荐
图像研究猿的专栏
11-16 1万+
准备 官方Docker安装方法 https://docs.docker.com/install/linux/docker-ee/ubuntu/ 假设已安装docker和docker-compose，并且docker-compose.yml在当前目录中。 docker-compoose.yml内容如下： version: '2.4' services: nvsmi: imag...
在Docker Compose上使用GPU运行TensorFlow
cpongo5
04-10 454
\看新闻很累？看技术新闻更累？试试下载InfoQ手机客户端，每天上下班路上听新闻，有趣还有料！\\\容器化和AI是目前开发的大趋势。理想情况下，容器化可以将环境无缝迁移，将配置环境的成本无限降低：但是在容器中配置CUDA并运行TensorFlow一向是个难题。对于初学者以及没有深度学习工作站的用户，AWS和Azure推出了带独立显卡的云服务：但是按需实例价格不便宜，竞价式实例价格公道然而虚拟机不能...
docker-compose gpu
05-30
如果你想在 Docker Compose 中使用 GPU，需要安装 NVIDIA Docker 运行时，并在 Docker Compose 文件中配置相应的 GPU 相关参数。以下是一个使用 NVIDIA Docker 运行时和 GPU 的 Docker Compose 示例： ```yaml version: '3' services: myservice: runtime: nvidia image: myimage environment: NVIDIA_VISIBLE_DEVICES: all volumes: - /path/to/host/folder:/path/to/container/folder ``` 在上述示例中，`runtime: nvidia` 表示使用 NVIDIA Docker 运行时。`NVIDIA_VISIBLE_DEVICES: all` 表示将所有可用的 GPU 设备传递给容器。你可以根据实际需要修改此参数。`volumes` 部分可以用于在宿主机和容器之间共享文件和文件夹。 注意，使用 GPU 的 Docker Compose 部署可能需要更高的系统配置和资源，例如更高的内存和磁盘空间。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

mikes zhang

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值