【mmsegmentation】单台机器多卡多任务训练语义分割模型

已于 2023-04-03 03:43:44 修改
阅读量1.5k 收藏 3
点赞数
分类专栏： mmsegmentation 文章标签： 深度学习 人工智能
于 2023-04-03 02:12:21 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/yaoyuyan1204/article/details/129920608
版权

分布式训练需要用tool文件夹里dist_train.sh辅助运行

sh tools/dist_train.sh ${CONFIG_FILE} ${GPUS} [可选参数]

可选参数可以为:

  • –no-validate (不推荐): 训练时代码库默认会在每 k 轮迭代后在验证集上进行评估，如果不需评估使用命令 --no-validate

  • –work-dir ${工作路径}: 在配置文件里重写工作路径文件夹

  • –resume-from ${检查点文件}: 继续使用先前的检查点 (checkpoint) 文件（可以继续训练过程）

  • –load-from ${检查点文件}: 从一个检查点 (checkpoint) 文件里加载权重（对另一个任务进行精调）

  • –deterministic: 选择此模式会减慢训练速度，但结果易于复现

resume-from 和 load-from 的区别:

  • resume-from 加载出模型权重和优化器状态包括迭代轮数等

  • load-from 仅加载模型权重，从第0轮开始训练

示例：

# 模型的权重和日
最低0.47元/天 解锁文章
区块之眼
关注
  • 0
    点赞
  • 踩
  • 3
    收藏
    觉得还不错? 一键收藏
  • 3
    评论
专栏目录
mmsegmentation
04-04
文档： ： 介绍 MMSegmentation是基于PyTorch的开源语义分割工具箱。 它是OpenMMLab项目的一部分。 master分支可与PyTorch 1.3至1.6一起使用。 主要特点 统一基准 我们为各种语义分割方法提供了一个统一的基准测试工具箱。 模块化设计 我们将语义分割框架分解为不同的组件，并且可以通过组合不同的模块轻松地构建自定义的语义分割框架。 开箱即用的多种方法支持 该工具箱直接支持流行的和当代的语义分割框架，例如PSPNet，DeepLabV3，PSANet，DeepLabV3 +等。 高效率 训练速度比其他代码库快或可比。 执照 该项目是根据。 变更日志 v0.11.0于02/02/20发布。 有关详细信息和发行历史，请参考 。 基准和模型动物园 结果和模型可在。 支持的骨干网： ResNet ResNeXt 支持的方法：
基于pytorch的单机多卡分布式训练源码
09-06
在PyTorch中，单机多卡分布式训练是一种优化深度学习模型训练效率的方法，它能够充分利用多GPU资源，加速模型的收敛过程。本教程将详细解释如何使用PyTorch实现单机多卡分布式训练，主要参考提供的源码文件`pytorch_...
mmdetectionv1.0.0-选择几张卡训练一个模型，单机多卡开多个训练任务(还有问题)—修改config-batch图像数目，学习率下降等–训练期间测试开启-训练灰度
12-22
训练灰度 如果你想训练灰度图，在这个版本，你应该： mmdetection/mmdet/datasets/pipelines/loading.py @PIPELINES.register_module class LoadImageFromFile(object): def __init__(self, to_float32=False, color_type='color'): self.to_float32 = to_float32 self.color_type = color_type def __call__(self, result
【debug】mmseg多级多卡训练报错：The server socket has failed to listen on any local network address.
向上生长的程序媛的博客
01-18 5053
多机多卡训练mmseg工程时,报错：The server socket has failed to listen on any local network address.简单更换端口号即可解决。
MMSegmentation——流程化使用
最新发布
Castlehe的博客
05-23 945
有两种方式可以自定义数据类，第一种，就是文件形式，另外一种就是直接下载要运行的代码里，下面会说。OpenMMLab-AI实战营第二期——5-2. MMSegmentation代码课的**1.1 持久化运行（用文件定义）**部分个人更推荐这种使用方式，不需要去在文件夹里改文件，比较方便。但是如果长时间操作一个数据集，那还是把它写成文件的形式比较好。OpenMMLab-AI实战营第二期——5-2. MMSegmentation代码课的1.2 运行时生效（直接运行时定义一个class）部分。
【语义分割】3、用mmsegmentation训练自己的分割数据集
热门推荐
呆呆的猫的博客
03-04 2万+
文章目录一、mmsegmentation简介二、Cityscape数据集简介2.1 数据结构5000张精细标注2.2 标注样例三、把自己的数据集变成Cityscape格式3.1 将用labelme标好的数据转换为训练可用数据3.2 重命名3.3 xml转json四、训练和测试4.1 改数据集路径名称等4.2 训练4.3 测试4.4 demo 一、mmsegmentation简介 github 链接：https://github.com/open-mmlab/mmsegmentation 二、Cityscap
多gpu训练
bofu_sun的博客
08-19 224
最近在使用多gpu进行训练，加入一下几点即可 加入使用的gpu os.environ['CUDA_VISIBLE_DEVICES'] = '0,1,2,3,4,5,6,7' device = torch.device("cuda" if torch.cuda.is_available() else "cpu") 将模型加载到设备上 self.actor_net = nn.DataParallel(Mlp1_Actor_model(input_dim).to(device=device)) 将数
二、MMsegmentation 配置教程+训练教程+模型测试（ 服务器）
qq_43507388的博客
04-08 1万+
时间： 2022年4月8日 内容：训练 MM Segmentation 中的deeplabv3 深度神经网络 如果想要系统的学习，可以参考官方文档： https://mmsegmentation.readthedocs.io/en/latest/get_started.html#installation 但是我理解力有限感觉不太详细。 基础的配置和介绍可以看我的上一篇博客，这篇讲一下训练。 1 试错 首先我也是在网上参考的教程： https://zhuanlan.zhihu.com/p/3930705
解决pytorch多GPU训练保存的模型,在单GPU环境下加载出错问题
09-16
主要介绍了解决pytorch多GPU训练保存的模型,在单GPU环境下加载出错问题，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
2-20horovod多机多卡训练环境配置+训练流程1
08-08
在horovod下使用多机多卡需要满足以下3个先决条件：不同机器可以访问相同的文件：nfs不同机器使用相同的训练环境: Docker不同机器可以ssh交互：ss
Pytorch实战7-mmsegmentation训练
Evan_qin_yi_quan的博客
03-11 1101
自定义数据集在mmsegmentation训练
mmdetection-multigpu火车
02-20
MM检测 新闻：我们在上发布了技术报告。 介绍 master分支适用于PyTorch 1.1或更高版本。 mmdetection是基于PyTorch的开源对象检测工具箱。 这是香港开发的开放式mmlab项目的一部分。 主要特点 模块化设计 我们将检测框架分解为不同的组件，并且可以通过组合不同的模块轻松构建定制的对象检测框架。 开箱即用的多种框架支持 该工具箱直接支持流行和现代的检测框架，例如Faster RCNN，Mask RCNN，RetinaNet等。 高效率 现在，所有基本的bbox和mask操作都可以在GPU上运行。 训练速度比其他代码库（包括 ， 和 ）快或可比。 最先进的 该工具箱源自MMDet团队开发的代码库，该团队在2018年赢得了，我们一直在推动它前进。 除MMDetection外，我们还发布了库用于计算机视觉研究，该库在很大程度上依赖于此工具箱。 执照 该项目
【mmsegmentation模型训练deeplabv3】自定义数据集加载和训练|rle编码转mmsegmentation|coco转mmsegmentation
m0_61139217的博客
08-08 2511
【mmsegmentation模型训练deeplabv3】自定义数据集加载和训练|rle编码转mmsegmentation|coco转mmsegmentation
mmsegmentation学习笔记
qq_20549061的博客
08-07 1万+
mmsegmentation学习笔记前言文件总体结构configs文件夹mmcv文件夹builder.pysegmentatorstools文件夹train.pycfg对象参数解析torch.backends.cudnn.benchmarkmodel = build_segmentor( cfg.model, ...)基本网络结构fcn 前言 文件总体结构 mmsegmentation ├── LICENSE ├── README.md ├── configs //配置文件，针对每个网络的一写用户参数设
从零开始使用MMSegmentation训练Segformer
fovever_的博客
02-20 2708
写在前面：最新想要用最新的分割算法如：Segformer or SegNeXt 在自己的数据集上进行训练，但是有不是搞语义分割出身的，而且也没有系统的学过MMCV以及MMSegmentation。所以就折腾了很久，感觉利用MMSegmentation搭建框架可能比较系统，但是对于不熟悉的或者初学者非常不友好，因此记录一下自己training Segformer的心路历程。
mmseg解析2
qq_32425195的博客
12-10 2702
runner分析 基类：base_runner mmcv/runner/based_runner.py base_runner的子类需要完成：run(),train(),val(),save_checkpoint() epoch_base_runner 按照epoch的次数来train和val iter_base_runner 按照iter的次数来train和val mmcv/runner/iter_based_runner.py def run(self, data_loaders, workflow,
MMSegmentation实战-Ubuntu系统
ArcGis_Niu的博客
09-26 307
基于MMSegmentation的遥感影像建筑物分割任务实战，包括配置参数、训练、测试、预测全流程记录，全程Ubuntu命令行操作。
MMSegmentation官方使用文档记录
Thinkobj的博客
12-20 1937
mmsegmentation官方使用文档记录
openmmlab教程3-MMSeg 使用
wujing1_1的博客
09-01 5378
Args:Examples:""" return _no_grad_trunc_normal_(tensor , mean , std , a , b) ############################################ # backbone 部分 class Attention(nn . Module) : def __init__(self , dim , head , sr_ratio) : """注意力头:param dim: 输入维度。...
pytorch单机多卡训练模型
09-10
你可以使用PyTorch的`DataParallel`来实现单机多卡训练模型。`DataParallel`会自动将模型复制到每个可用的GPU并行计算，并在反向传播时进行梯度的累积和同步。 下面是一个简单的示例代码，展示了如何使用`DataParallel`来进行单机多卡训练模型： ```python import torch import torch.nn as nn from torch.utils.data import DataLoader # 定义模型 class MyModel(nn.Module): def __init__(self): super(MyModel, self).__init__() self.fc = nn.Linear(10, 1) def forward(self, x): return self.fc(x) # 创建模型实例 model = MyModel() # 设置设备 device = torch.device("cuda" if torch.cuda.is_available() else "cpu") model = model.to(device) # 多卡训练 if torch.cuda.device_count() > 1: model = nn.DataParallel(model) # 使用DataParallel包装模型 # 定义数据集和数据加载器 dataset = YourDataset() # 自定义数据集 dataloader = DataLoader(dataset, batch_size=64, shuffle=True) # 定义优化器和损失函数 optimizer = torch.optim.SGD(model.parameters(), lr=0.001) criterion = nn.MSELoss() # 训练过程 for epoch in range(num_epochs): for inputs, labels in dataloader: inputs = inputs.to(device) labels = labels.to(device) # 前向传播 outputs = model(inputs) loss = criterion(outputs, labels) # 反向传播和优化 optimizer.zero_grad() loss.backward() optimizer.step() print(f"Epoch [{epoch+1}/{num_epochs}], Loss: {loss.item()}") # 保存模型 torch.save(model.state_dict(), "model.pth") ``` 在上述示例中，如果有多个可用的GPU，则`DataParallel`会自动将模型复制到每个可用的GPU并行计算。你可以通过`torch.cuda.device_count()`函数来检查可用的GPU数量。在训练过程中，你只需要像单卡训练一样使用模型即可，`DataParallel`会自动处理数据和梯度的同步。 请确保你的代码在使用`DataParallel`之前将模型移动到正确的设备上，并在训练过程中将数据和标签移动到相同的设备上。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 3
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值