调试HRnet遇到的坑

最新推荐文章于 2022-07-17 09:19:44 发布
最新推荐文章于 2022-07-17 09:19:44 发布
阅读量1.7k 收藏 1
点赞数
文章标签： 深度学习 pytorch 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_38951972/article/details/123401209
版权
在尝试进行分布式训练时遇到'Defaultprocessgroupisnotinitialized'错误，将BatchNorm2d改为非分布式版本后，又出现'RuntimeError: CUDA out of memory'。尝试降低batchsize为1并指定cuda:0，问题依然存在。通过调用torch.cuda.empty_cache()清理GPU缓存后，在不同GPU上训练成功。
摘要由CSDN通过智能技术生成 
AssertionError: Default process group is not initialized

# BatchNorm2d_class = BatchNorm2d = torch.nn.SyncBatchNorm

BatchNorm2d_class = BatchNorm2d = torch.nn.BatchNorm2d

将bn_help.py里的第19行做更改。（放弃分布式训练）

 出现新的bug

RuntimeError: CUDA out of memory. Tried to allocate 48.00 MiB (GPU 1; 11.91 GiB total capacity; 1.44 GiB already allocated; 33.94 MiB free; 1.54 GiB reserved in total by PyTorch)

解决办法：减小batchsize为1，cuda：0 ，还是报错

在报错行前加入释放缓存的语句：

if hasattr(torch.cuda, 'empty_cache'):

torch.cuda.empty_cache()

换gpu训练，成功！

qq_38951972
关注
pytorch Default process group is not initialized
jacke121的专栏
06-27 2539
pytorch Default process group is not initialized
Hrnet调试过程中遇到的坑
Danteng的咚咚锵的博客
07-04 1036
这里写自定义目录标题按照官方GitHub搭建运行环境 按照官方GitHub搭建运行环境 关于环境的搭建请仔细阅读readme，首先，我的机器是ubantu16.4,cuda10.0.130。根据pytorch的官网下载，我第一次就下载的torch1.2.0，torchvision0.4.0,tensorboardX1.6,但是训练时遇到了如下问题： 在这个坑里来回试了很久，在pytorch的pytorchIssues中找到了解决办法： 把Torch和torchvision卸载，装上如下版本： torch1
HRNet OCR 遇到的AttributeError: ‘NoneType‘ object has no attribute ‘shape‘
Alex_wise的博客
01-06 1220
总之就是很蠢的问题，作者本身的代码路径有问题，首先数据集路径必须按照官网设置对，注意大小写： 其次我还是报错了，仔细一看： 好家伙，路径少了个cityscapes，所以直接用绝对路径，在yaml和cityscapes里改了下代码： DATASET: DATASET: cityscapes ROOT: /users/guozibin/5.11.depth-net-train/HRNet-Semantic-Segmentation-HRNet-OCR/HRNet-Semantic-Segmentat
HRNet使用中遇到的问题记录
weixin_44061195的博客
06-22 2027
背景 类似文章：HRNET使用过程中的问题记录 我运行的环境是docker,pytorch1.4-cuda10.1-cudnn7-devel 运行的是HigherHRNet-Human-Pose-Estimation 运行代码 python tools/dist_train.py \ --cfg experiments/coco/higher_hrnet/w32_512_adam_lr1e-3.yaml 遇到的问题 第一个错误 File "tools/dist_train.py", line
AssertionError: Default process group is not initialized
热门推荐
weixin_36670529的博客
05-02 1万+
博主解决这个问题的方法为：如果项目里有分布式训练相关的代码，如果不使用分布式训练，就不要启动syncbn。 参考：https://github.com/pytorch/pytorch/issues/22538
cls_hrnet_hrnet_
09-28
《HRNet：高分辨率网络在图像分类中的应用》 在深度学习领域，图像分类是一项基础且重要的任务，它要求模型能够准确地识别出图像所属的类别。近年来，随着深度神经网络的发展，各种复杂的网络结构被设计出来以提高...
HRNet的翻译版本。
02-20
HRNet 的翻译版本 HRNet 是一种深度学习模型，用于人体姿态估计，特别是高分辨率表示学习。该模型的提出是为了解决传统方法中存在的问题，即从低分辨率表示中恢复高分辨率表示。HRNet 通过维护整个过程中的高分辨率...
基于结合注意力机制和膨胀卷积的HRNet遥感图像语义分割python源码.zip
最新发布
10-26
基于结合注意力机制和膨胀卷积的HRNet遥感图像语义分割python源码.zip基于结合注意力机制和膨胀卷积的HRNet遥感图像语义分割python源码.zip基于结合注意力机制和膨胀卷积的HRNet遥感图像语义分割python源码.zip基于...
hrnet量化后的rknn模型，经测试后关键点坐标对齐，可用
02-17
原模型为pytorch转后得到的onnx文件hrnet_coco_w32_256x192.onnx，用的coco val数据集做的量化，输入为（1，3，256，192），输出为（1，17，64，48）的关键点热图，后面通过高斯化函数可得到关键点，结果经测试。
HRNet-Semantic-Segmentation-HRNet-OCR.zip_Python__Python_
08-09
在这个项目中，我们关注的是一个名为"HRNet-Semantic-Segmentation-HRNet-OCR.zip"的压缩包，它包含了一个基于Python和PyTorch 1.3实现的语义分割模型——OCRNet。OCRNet是一种高效的网络架构，特别适合于这种复杂的...
pytorch-mmsegmentation train时遇到AssertionError:Default process group is not initialized
m0_37568067的博客
11-18 8929
问题原因：非分布式训练使用了分布式训练的设置 两种解决办法： 1、在tools/train.py 中加入 import torch.distributed as dist dist.init_process_group('gloo', init_method='file:///temp/somefile', rank=0, world_size=1) 2、在configs/_base_/models 的文件中，首行norm_cfg = dict(type='SyncBN', requires_gr
pytorch分布式报错AssertionError: Default process group is not initialized
qq_40373651的博客
07-17 9300
pytorch分布式报错AssertionError: Default process group is not initialized 在pytorch中分布式中，dist.barrier()中报错AssertionError: Default process group is not initialized。 可以尝试： import torch.distributed as dist dist.init_process_group('gloo', init_method='file:///tmp/so
2020-10-22
hankerbit的博客
10-22 436
方法一：使用torch.cuda.empty_cache()删除一些不需要的变量代码示例如下： try: output = model(input) except RuntimeError as exception: if "out of memory" in str(exception): print("WARNING: out of memory") if hasattr(torch.cuda, 'empty_cache'): t...
HRNet_Dockerfile
06-19
自己写的运行HRNet的dockerfile,可能有点网络上的问题。自行调试。
pose_hrnet_w32_256x256.pth
06-11
HRNet的官方预训练权重，包含3个权重，这是其中一个： MPII w32 256x256 (MPII human joints) pose_hrnet_w32_256x256.pth
RuntimeError: cuDNN error: CUDNN_STATUS_EXECUTION_FAILED
cash_cp的博客
07-17 3017
RuntimeError: cuDNN error: CUDNN_STATUS_EXECUTION_FAILED
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值