问题：RuntimeError: Distributed package doesn‘t have NCCL built in

已于 2023-08-16 21:05:11 修改
阅读量698 收藏 2
点赞数 1
分类专栏： pytorch框架 文章标签： 人工智能 深度学习
于 2023-08-16 21:01:58 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_42491648/article/details/132327703
版权
本文介绍了在Windows环境中使用Python进行分布式训练时遇到的RuntimeError，由于NCCL不支持，提出了两种解决方案：一是通过检查sys.platform设置环境变量PL_TORCH_DISTRIBUTED_BACKEND为gloo；二是直接修改环境变量。
摘要由CSDN通过智能技术生成

现象

python在windows环境下dist.init_process_group(backend, rank, world_size)处报错‘RuntimeError: Distributed package doesn’t have NCCL built in’
在这里插入图片描述

原因分析

windows不支持NCCL backend

方法1

import sys

if sys.platform == "win32":
     os.environ["PL_TORCH_DISTRIBUTED_BACKEND"] = "gloo"

方法2

import os

os.environ["PL_TORCH_DISTRIBUTED_BACKEND"] = "gloo"

直接复制到项目中例如：
在这里插入图片描述

Cy12024
关注
  • 1
    点赞
  • 踩
  • 2
    收藏
    觉得还不错? 一键收藏
  • 3
    评论
专栏目录
Distributed package doesn‘t have NCCL built in
jacke121的专栏
05-08 1万+
Distributed package doesn't have NCCL built in 问题描述： python在windows环境下dist.init_process_group(backend, rank, world_size)处报错‘RuntimeError: Distributed package doesn’t have NCCL built in’，具体信息如下： File "D:\Software\Anaconda\Anaconda3\envs\segmenter\lib\.
成功解决Distributed package doesn‘t have NCCL “ “built in
近期请国内外头部出版社可尽快私信博主！——心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，谦虚，自律，反思，成长，还算是比较正能量的博主，公益免费传播……内心特别想在AI界做出一些可以推进历史进程影响力的东西(兴趣使然，有点小情怀，也有点使命感呀)…
06-01 2119
​ 成功解决Distributed package doesn't have NCCL " "built in 目录 解决问题 解决思路 解决方法 解决问题 Distributed package doesn't have NCCL " "built in 解决思路 当前环境中没有内置NCCL支持,无法初始化NCCL进程组 解决方法 使用PyTorch分布式训练尝试使用torch.distributed.init_process_group("nccl")初始化NCCL进程组失败，
在Windows下复现pyskl训练报错：RuntimeError: Distributed package doesn’t have NCCL
weixin_45600637的博客
11-24 693
pyskl使用以下命令训练时报错。
【解决】报错：RuntimeError: Distributed package doesn‘t have NCCL built in
最新发布
qq_39635835的博客
07-06 291
定位到文件：E:\ProgramData\anaconda3\envs\pytorch_envs\lib\site-packages\torch\distributed\distributed_c10d.py。原因：windows系统不支持nccl，采用gloo；
[Windows] RuntimeError: Distributed package doesn‘t have NCCL built in
qw11er的博客
12-21 941
windows使用pytorch-lighting的报错
【报错解决】RuntimeError: Distributed package doesn‘t have NCCL built in
qq_43426908的博客
04-15 1207
windows系统不支持nccl，采用gloo；
Windows RuntimeError: Distributed package doesn‘t have NCCL built in问题
StarCap的博客
09-02 1万+
问题描述： python在windows环境下dist.init_process_group(backend, rank, world_size)处报错‘RuntimeError: Distributed package doesn’t have NCCL built in’，具体信息如下： File "D:\Software\Anaconda\Anaconda3\envs\segmenter\lib\site-packages\torch\distributed\distributed_c10d.py
RuntimeError: CUDA error: invalid device ordinal解决方案
weixin_43178406的博客
01-09 3万+
本文主要介绍了RuntimeError: CUDA error: invalid device ordinal解决方案，希望能对使用Python的同学们有所帮助。 文章目录 1. 问题描述 2. 解决方案 2.1 LLM解决方案 2.2 cv2库解决方案
RuntimeError: NCCL error in：XXX，unhandled system error, NCCL version 2.7.8
weixin_51736742的博客
08-30 1万+
1.问题 pytorch 分布式训练中遇到这个问题， 2.原因 大概是没有启动并行运算？？？（有懂得大神请指教） 3.解决方案 （1）首先看一下服务器GPU相关信息 进入pytorch终端（Terminal） 输入代码查看 python torch.cuda.is_available()#查看cuda是否可用； torch.cuda.device_count()#查看gpu数量； torch.cuda.get_device_name(0)#查看gpu名字，设备索引默认从0开始； torch.cuda.cu
RuntimeError: CUDA error: CUBLAS_STATUS_INVALID_VALUE when calling `cublasGemmEx 解决方案
热门推荐
weixin_43178406的博客
06-12 8万+
本文主要介绍了RuntimeError: CUDA error: CUBLAS_STATUS_INVALID_VALUE when calling `cublasGemmEx 解决方案，希望能对学习pytorch的同学们有所帮助。 文章目录 1. 问题描述 2. 解决方案
运行mmdetection的benchmark.py报错：RuntimeError: Distributed package doesn‘t have NCCL built in
weixin_45679938的博客
12-30 2656
**起因：**利用mmdetection的tools/benchmark.py计算FPS时报错。 错误内容如下： Traceback (most recent call last): File "tools/analysis_tools/benchmark.py", line 191, in <module> main() File "tools/analysis_tools/benchmark.py", line 183, in main init_dist(args.
RuntimeError: Distributed package doesn‘t have NCCL built in
weixin_50641682的博客
03-29 430
NCCL（NVIDIA Collective Communication Library）是由 NVIDIA 开发的一个高性能的多GPU并行计算库，用于在多个 GPU 之间进行快速的通信和协同计算。NCCL 提供了高效的 GPU 通信和同步机制，可以显著降低在多 GPU 环境下的通信开销，并提高并行计算的效率。总之，"nccl backend" 是指深度学习框架中使用 NCCL 库作为后端实现的一种配置选项，用于加速在多 GPU 环境下的训练过程，提高并行计算的效率。
使用MMdetecion时出现RuntimeError: Distributed package doesn’t have NCCL
weixin_41653613的博客
02-28 503
使用MMdetecion时出现RuntimeError: Distributed package doesn’t have NCCL
Pytorch报错解决——（亲测有效）RuntimeError: Distributed package doesn‘t have NCCL built in
m0_61787307的博客
03-18 1万+
亲测这个报错就没了，然而接下来还有好多别的报错…我继续去解决了，解决完再分享别的~若要解释原因就是windows系统不支持NCCL，只能换用GLOO。上网搜寻一番后，发现了解决方法。这一行中的nccl换成gloo。
【解决】RuntimeError: Distributed package doesn‘t have NCCL built in
Paul_Huang的专栏
11-17 8911
RuntimeError: Distributed package doesn't have NCCL built in
已解决RuntimeError: Distributed package doesn‘t have NCCL built in
qq_52381360的博客
03-17 2921
已解决RuntimeError: Distributed package doesn‘t have NCCL built in
pytorchlighting报错：raise RuntimeError(“Distributed package doesn‘t have NCCL “RuntimeError: Distribu
Frank-Li的博客
06-16 6003
1、该问题的主要原因是windows环境不支持NCCL，所以最好不要使用ddp ##源代码： trainer = Trainer(gpus=[0],distributed_backend="ddp") ##修改后的代码： trainer = Trainer(gpus=[0]) anz
RuntimeError: Distributed package doesn't have NCCL built in
06-01
这个错误通常是由于缺少NCCL库导致的。NCCL是NVIDIA的一个库，用于在多GPU环境下进行并行计算。你需要在你的机器上安装NCCL库。你可以通过以下命令在Ubuntu上安装NCCL库： ``` sudo apt-get install libnccl-dev ``` 如果你使用的是其他操作系统，请查看相应的NCCL安装文档。安装完成后，你可以尝试重新运行你的代码。
评论 3
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值