【分布式训练】基于docker容器的pytorch多机分布式训练

已于 2022-05-30 11:31:36 修改
阅读量1.4k 收藏 3
点赞数
分类专栏： 分布式机器学习 文章标签： pytorch docker 分布式
于 2022-03-10 21:46:31 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/strawcherry_wj/article/details/123389360
版权
本文介绍了如何在Ubuntu上安装最新版Docker，并通过Docker进行PyTorch的多机分布式训练。详细步骤包括卸载旧版Docker、安装依赖、配置用户组、启动Docker、更换Docker源以及拉取相关镜像。
摘要由CSDN通过智能技术生成

文章目录

参考链接

Deep Learning:PyTorch 基于docker 容器的分布式训练实践
基于Docker的大规模人脸数据集分布式训练

Ubuntu安装docker

ubuntu下自带了docker的库，不需要添加新的源。
但是ubuntu自带的docker版本太低，需要先卸载旧的再安装新的。
1、卸载旧版本

apt-get remove docker docker-engine docker.io containerd runc

使用apt-get命令时，如果出现Could not get lock /var/lib/dpkg/lock-frontend，说明之前使用apt时出现异常，没有正常关闭，还在运行。
请添加图片描述
解决：使用ps 和 grep查找apt的pid,并使用kill杀死掉
参考Could not get lock /var/

最低0.47元/天 解锁文章
strawcherry_wj
关注
专栏目录
docker方式进行pytorch多机多卡分布式训练
weixin_42357472的博客
03-21 499
docker ip共享与gpu指定1）ip共享docker网络有多种，这里选择host直接用宿主机的ip2）指定gpu。
Ubuntu16.04安装dockers
weixin_44845971的博客
11-02 371
Ubuntu16.04安装dockers 卸载旧版本docker $ sudo apt-get remove docker \ docker-engine \ docker.io 使用APT安装 安装必要的一些系统工具 sudo apt-get update sudo apt-get -y install apt-transpo...
docker容器中deepspeed多机多卡集群分布式训练大模型
最新发布
Li1502927435的博客
08-16 748
由于docker swarm网络会随机分配ip地址，每次服务器重启后，容器ip都会改变，所以都可需要修改映射，读者可以尝试如何固定容器静态IP。更改后运行这个代码可以一键安装适合版本的，如果那个软件包安装报错可以试试跳过他，在requirement中删除对他相应的版本约束。后面和代码大多借鉴的这位大佬的文章，但大佬跳过了一些基础内容，我进行了一些补充。可以使用vim命令复制，如果安装vim命令失败，可以使用cat命令。，可以看到显卡均有被使用，至此，分布式训练完毕。命令进入容器， ping 一下。
ubuntu 16.04 安装docker (阿里云镜像)
谢小军的专栏
03-01 1万+
Ubuntu 14.04 16.04 (使用apt-get进行安装) # step 1: 安装必要的一些系统工具 sudo apt-get update sudo apt-get -y install apt-transport-https ca-certificates curl software-properties-common # step 2: 安装GPG证书 curl -fsSL ...
wsl 安装 原生 docker
qq_43247720的博客
02-08 798
使用 wsl2 而非 Docker desktop 安装 Docker，体验完全接近 Linux 的使用 Docekr 方式。并解决 wsl2 中 Docker 启动不了的问题。
在 Windows WSL Ubuntu 上安装原生Docker
十年运维开发经验的王义杰在此分享自己的知识和经验
03-09 1280
微软在WSL2中加入对Systemd的支持，不仅提高了与Linux应用的兼容性，也大大简化了在Windows上使用Linux原生Docker的过程。这一进步对于依赖容器化开发环境的开发者来说意义重大，它不仅展示了微软对开发者社区需求的重视，也进一步加深了Windows与Linux生态系统之间的整合。现在，开发者可以在Windows上享受到几乎与Linux原生环境相同的开发体验，这无疑将推动跨平台开发的进一步发展。我们期待微软在未来继续推动技术的界限，为开发者社区提供更多的支持和便利。
多机多卡docker分布式训练
weixin_41012399的博客
03-10 1823
正确配置方法是在主机上先新添加一个网桥，这个网桥配置新的网段，启动容器的时候选择该网卡的配置项。docker默认的内网网段为172.17.0.0/16，不同主机的容器ip有可能冲突，所以要先改ip。重新配置容器中的ssh，参考：https://blog.csdn.net/feiying0canglang/article/details/124656425。但是运维说后边想要不同主机容器内的ip互通是比较复杂的，建议采用使用端口号的形式，通过主机的ip互通。采用使用端口号的形式，通过主机的ip互通。
使用docker搭建分布式pytorch+cuda训练模型（二）
2401_83051627的博客
07-11 1057
假如训练集中有样本100个，分给两台机器，每台两块gpu，那么每个gpu上使用25个样本，通过实现自定义数据集，主机可以规划进程使用的数据集部分，例如进程1使用第0-24样本，进程2使用第25-49样本等。此处需要设置主机IP与监听端口，主机运行此程序后会自动打开端口，从服务器则会通过IP访问此端口，由于当前是容器互联，所以IP为局域网IP，如果部署在服务器上需要使用上一篇文章中的容器端口映射打开对公网的端口。pytorch提供了多机多卡分布式学习工具，即多台服务器，每台服务器有多张GPU。
Deep Learning:PyTorch 基于docker 容器的分布式训练实践
lo_ong的博客
09-05 5044
引言 PyTorch distributed currently only supports Linux.   这句话是来自 pytorch 官网 的 torch.distributed 部分，说明 pytorch 支持分布式训练，而且只在linux 上支持。   torch.distributed supports three backends, each with dif...
wsl 安装 docker
csdn666
12-13 5273
WSL安装docker
WSL下安装docker
l229568441的博客
06-26 2598
WSL下安装docker 本文主要讲述如何在wsl子系统(Ubuntu 20.04)下安装docker **前置条件：电脑已经安装有wsl子系统，安装教程参考传送门** 安装docker root用户ssh连接到linux子系统，复制并执行如下命令 curl -fsSL https://get.docker.com | bash -s docker --mirror Aliyun 等待命令执行及安装完成 #查看docker版本号 docker --version 切换阿里云镜像源 阿里云镜像源获取地址，
WSL安装docker
qq_44701736的博客
08-05 1018
目录参考资料1.安装要求2.安装3. 用root账号启动docker4. 测试5. 错误 参考资料 WSL安装docker（不折腾版） 启动失败解决方案：WSL Docker : Cannot connect to the Docker daemon at unix:///var/run/docker.sock. Is the docker daemon running? 1.安装要求 wsl一定要是WSL2，否则，启动docker会报错： WSL Docker : Cannot connect to th
wsl安装使用docker
qq_43556545的博客
10-10 184
1. 安装 安装命令 curl -fsSL https://get.docker.com | bash -s docker --mirror Aliyun 我自己的电脑上是安装了两个wsl，一个是arch，一个是ubuntu，因为arch的指令有点不一样，有些指令在上面无法执行，而网上普遍都是用的ubuntu，解决方案更多。所以这次我还是用的ubuntu。但事实上网上也有arch linux安装使用docker的帖子：https://blog.csdn.net/zongza/article/detail
Ubuntu安装Docker-ce
m0_46495862的博客
08-17 1028
Ubuntu安装Docker-ce
Ubuntu安装docker-ce
XiChuan的博客
12-04 4232
docker在大型项目上使用范围很广，为了在Ubuntu自测docker，心血来潮，准备自己搭建docker进行测试。因为使用apt直接安装docker的版本比较低，在此按照官网的教程安装docker-ce。 1.卸载旧版本 较旧版本的Docker被称为docker或docker-engine，需要手动卸载掉。 sudo apt-get remove docker docker-engin...
WSL安装docker（不折腾版）
热门推荐
weixin_36182972的博客
05-27 2万+
https://www.cnblogs.com/sweetsunnyflower/p/10543318.html
ubutun安装 docker
a289237642的博客
07-29 663
# docker安装文档 ```sh $ sudo apt-get update $ sudo apt-get install \     apt-transport-https \     ca-certificates \     curl \     software-properties-common $ curl -fsSL https://download.docker.com/...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值