【踩坑日记10】ValueError: Error initializing torch.distributed using env:// rendezvous: environment variab

最新推荐文章于 2024-09-22 10:36:48 发布

一只_程序媛

最新推荐文章于 2024-09-22 10:36:48 发布

阅读量1.3k

点赞数 6

文章标签： python

本文链接：https://blog.csdn.net/weixin_47894469/article/details/136989745

版权

这篇博客记录了在使用PyTorch进行多进程训练时遇到的`ValueError: Error initializing torch.distributed using env:// rendezvous: environment variable RANK expected, but not set`错误。通过在代码开头添加特定代码解决了问题。" 128267345,11433144,Flutter：获取并展示过去14天动态,"['Flutter', '前端开发', '数据展示']

摘要由CSDN通过智能技术生成

问题描述

ValueError: Error initializing torch.distributed using env:// rendezvous: environment variable RANK expected, but not set

问题解决

在代码开头加上

import os

os.environ['MASTER_ADDR'] = 'localhost'
os.environ

最低0.47元/天解锁文章

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

一只_程序媛

关注关注

6
点赞
踩
5

收藏

觉得还不错? 一键收藏
1
评论
复制链接

分享到 QQ

分享到新浪微博

扫一扫

报错：ValueError: Error initializing torch.distributed using env:// rendezvous: environment variable MA

weixin_51670564的博客

08-31

855

这意味着主节点位于本地计算机上，即当前运行代码的计算机。通常，这个地址是主节点的 IP 地址或主机名。指定正确的主节点地址对于其他计算节点能够连接到主节点至关重要。，这是一个数字，用于表示主节点侦听传入连接的端口。每个节点都需要知道主节点在哪个端口上侦听连接，以便能够与主节点进行通信。在分布式计算环境中，各个计算节点（包括主节点）通过这两个环境变量来协调通信，以便能够一起执行任务。：这是指定主节点的端口号的环境变量。：这是指定主节点的地址的环境变量。，它们用于配置分布式计算的主节点信息。

torch分布式训练报错

qq_33596242的博客

08-22

3504

CUDA_VISIBLE_DEVICES这个变量设置成自己想用的gpu序号即可。

1 条评论您还未登录，请先登录后发表或查看评论

【分布式多卡训练问题】：error: unrecognized arguments:Error initializing torch.distributed using env:// rendezvo

sept_boy的博客

08-08

231

在分布式训练时可能会遇到以下报错。

【opengait】ValueError: Error initializing torch.distributed using env:// rendezvous: environment vari

weixin_46135327的博客

11-29

4772

ValueError: Error initializing torch.distributed using env:// rendezvous: environment variable RANK expected, but not set

[swin-trans]分布式训练的debug：ValueError: Error initializing torch.distributed using env:// rendezvous: en

weixin_41529093的博客

03-24

2万+

仅作为记录，大佬请跳过。在用torch.distributed.init_process_group(backend='nccl', init_method='env://', world_size=world_size, rank=rank)时，出现文章目录1、ValueError: Error initializing torch.distributed using env:// rendezvous: environment variable MASTER_ADDR expected, but n

解决pytorch多进程ValueError: Error initializing torch.distributed using env:// rendezvou...报错

呆萌的代Ma

07-13

3万+

完整报错为：ValueError: Error initializing torch.distributed using env:// rendezvous: environment variable MASTER_ADDR expected, but not set 解决方法1：在代码中使用： import os os.environ['MASTER_ADDR'] = 'localhost' os.environ['MASTER_PORT'] = '5678' 解决方法2：如果是运行命令行的，可以

解决ValueError: Error initializing torch.distributed using env:// rendezvous:: environment variable 报错

weixin_57634679的博客

02-17

1万+

解决ValueError: Error initializing torch.distributed using env:// rendezvous:: environment variable 报错

（已解决）ValueError initializing torch.distributed using env:// rendezvous: environment variable MASTE

热门推荐

weixin_43178406的博客

06-30

7万+

本文主要介绍了ValueError: Connection error, and we cannot find the requested files in the cached path. Please try again or make sure your Internet connection is on.解决方案，希望能对学习python的同学们有所帮助。文章目录 1. 问题描述 2. 解决方案

ValueError: Error initializing torch.distributed using env:// rendezvous: environment variable RANK

东皇太一在此的博客

11-01

1036

【代码】ValueError: Error initializing torch.distributed using env:// rendezvous: environment variable RANK。

报错: environment variable RANK expected, but not set

weixin_44504393的博客

10-09

1万+

报错：ValueError: Error initializing torch.distributed using env:// rendezvous: environment variable RANK expected, but not set

分布式训练environment variable RANK expected, but not set

qq_42238892的博客

03-14

1343

RANK error

ValueError: Error initializing torch.distributed using tcp:// rendezvous: port number missing

CatOneTwo的专栏

04-07

6960

用 pytorch 训练 ABCNet 网络【GitHub】， OMP_NUM_THREADS=1 python tools/train_net.py \ --config-file configs/BAText/$confpath/attn_R_50.yaml \ --num-gpus 4 \ MODEL.WEIGHTS text_pretraining/attn_R_50/pretrain_attn_R_50.pth 报错 ValueError: Error initializing torch.

torch训练一些小细节

qq_39462585的博客

02-17

2396

torch训练一些小细节一、模板：二、加入梯度剪切一、模板：经典训练模板： for i, (image, label) in enumerate(train_loader): # 1. input output pred = model(image) loss = criterion(pred, label) # 2. backward optimizer.zero_grad() # reset gradient loss.backward()