已解决RuntimeError: Distributed package doesn‘t have NCCL built in

最新推荐文章于 2024-08-18 15:36:18 发布
最新推荐文章于 2024-08-18 15:36:18 发布
阅读量2.9k 收藏 9
点赞数 1
文章标签： python 深度学习 pytorch
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_52381360/article/details/129629424
版权
在尝试运行使用NCCL后端的代码时遇到错误，因为Windows不支持NCCL。为了解决这个问题，可以通过设置环境变量将后端更改为gloo，即`os.environ[PL_TORCH_DISTRIBUTED_BACKEND]=gloo`，并将所有依赖NCCL的部分替换为gloo实现，从而成功运行代码。
摘要由CSDN通过智能技术生成

在运行Robust High-Resolution Video Matting with Temporal Guidance论文的代码过程中，遇到了如下问题：

RuntimeError: Distributed package doesn‘t have NCCL built in

windows不支持NCCL backend

所以需要将用到NCCL的地方替换

解决办法：
需要改两处：

在开头加上这两段：

import os

os.environ["PL_TORCH_DISTRIBUTED_BACKEND"] = "gloo"

将报错的地方改为gloo
在这里插入图片描述
运行成功

MangekyoSasuke
关注
Distributed package doesn‘t have NCCL built in
jacke121的专栏
05-08 1万+
Distributed package doesn't have NCCL built in 问题描述： python在windows环境下dist.init_process_group(backend, rank, world_size)处报错‘RuntimeError: Distributed package doesn’t have NCCL built in’，具体信息如下： File "D:\Software\Anaconda\Anaconda3\envs\segmenter\lib\.
Python RuntimeError: thread.__init__() not called解决方法
09-22
然而，在使用`threading.Thread`进行多线程编程时，可能会遇到`RuntimeError: thread.__init__() not called`这样的错误。这个错误通常意味着你没有正确地初始化`threading.Thread`的实例。 在标题和描述中提到的...
【解决】RuntimeError: Distributed package doesn‘t have NCCL built in
Paul_Huang的专栏
11-17 8965
RuntimeError: Distributed package doesn't have NCCL built in
关于RuntimeError: Distributed package doesn‘t have NCCL built in
最新发布
狂小虎/Anthony Dave的博客 KuangXiaoHu's Blogs
08-18 249
这个问题小虎在windows系统运行ddp程序时遇到，解决方法是把nccl换成gloo。
Pytorch报错解决——（亲测有效）RuntimeError: Distributed package doesn‘t have NCCL built in
m0_61787307的博客
03-18 1万+
亲测这个报错就没了，然而接下来还有好多别的报错…我继续去解决了，解决完再分享别的~若要解释原因就是windows系统不支持NCCL，只能换用GLOO。上网搜寻一番后，发现了解决方法。这一行中的nccl换成gloo。
讲解Distributed package doesn‘t have NCCL built in
牛肉胡辣汤
12-24 3171
在使用PyTorch进行分布式训练时，如果你遇到了"Distributed package doesn't have NCCL built-in"错误，这可能是由于系统缺少NCCL库的原因。通过按照上述步骤安装和配置NCCL，以及重新编译PyTorch，你可以解决这个错误，并顺利运行分布式训练代码。在分布式训练中使用NCCL能够提供高效的数据并行计算和参数更新，从而加速训练过程。
RuntimeError: Distributed package doesn‘t have NCCL built in
weixin_43940981的博客
10-20 1万+
Improved Diffusion 复现之 NCCL报错
【报错解决】RuntimeError: Distributed package doesn‘t have NCCL built in
qq_43426908的博客
04-15 1487
windows系统不支持nccl，采用gloo；
解决pycharm导入numpy包的和使用时报错：RuntimeError: The current Numpy installation (‘D:\\python3.6\\lib\\site-packa的问题
01-21
标题用pycharm导入numpy包的和使用时报错：RuntimeError: The current Numpy installation (‘D:\python3.6\lib\site-packages\numpy\init.py 1.file→settings→project interpreter→+（建议用pychon3.6版本，我...
pytorch模型提示超出内存RuntimeError: CUDA out of memory.
01-20
跑模型时出现RuntimeError: CUDA out of memory.错误 查阅了许多相关内容，原因是：GPU显存内存不够 简单总结一下解决方法： 将batch_size改小。 取torch变量标量值时使用item()属性。 可以在测试阶段添加如下代码：...
Windows RuntimeError: Distributed package doesn‘t have NCCL built in问题
热门推荐
StarCap的博客
09-02 1万+
问题描述： python在windows环境下dist.init_process_group(backend, rank, world_size)处报错‘RuntimeError: Distributed package doesn’t have NCCL built in’，具体信息如下： File "D:\Software\Anaconda\Anaconda3\envs\segmenter\lib\site-packages\torch\distributed\distributed_c10d.py
车道线检测GANet网络复现报错解决方法汇总
zhaodongdz的博客
12-19 1638
车道线GANet网络报错解决方法
【代码复现问题】apex安装不上+win10分布式训练出问题
略知12的博客
12-27 957
最近一直在复现vit、swin-T等transformer网络，源代码都是linux版的，而我们实验室目前的服务器装的都是windows版的，所以复现的时候基本都会出现下面两个问题 问题1：APEX装不上 报错： 原因：我这个环境缺的比较多，包括编译器都没有，所以用了下面的解决方法1简化安装 解决方法1：将apex的源代码下载下来，然后进该文件夹用本地安装的方式安装： python setup.py install 解决方法2：完整安装参考https://blog.csdn.net/kuoyang/arti
pytorchlighting报错：raise RuntimeError(“Distributed package doesn‘t have NCCL “RuntimeError: Distribu
Frank-Li的博客
06-16 6024
1、该问题的主要原因是windows环境不支持NCCL，所以最好不要使用ddp ##源代码： trainer = Trainer(gpus=[0],distributed_backend="ddp") ##修改后的代码： trainer = Trainer(gpus=[0]) anz
[Windows] RuntimeError: Distributed package doesn‘t have NCCL built in
qw11er的博客
12-21 982
windows使用pytorch-lighting的报错
超详细逐步骤演示Pytorch深度学习多GPU并行训练全过程
qq_52868077的博客
10-02 5545
最近在复现深度学习方向的论文时，遇到了采用多GPU并行训练的情况。在自己动手操作的过程中，我发现网上的资料较为零散，于是在本篇博文中，我将整理我的最近所学，逐步骤详解多GPU并行训练全过程。
【解决】报错：RuntimeError: Distributed package doesn‘t have NCCL built in
qq_39635835的博客
07-06 503
定位到文件：E:\ProgramData\anaconda3\envs\pytorch_envs\lib\site-packages\torch\distributed\distributed_c10d.py。原因：windows系统不支持nccl，采用gloo；
RuntimeError: Distributed package doesn't have NCCL built in
06-01
这个错误通常是由于缺少NCCL库导致的。NCCL是NVIDIA的一个库，用于在多GPU环境下进行并行计算。你需要在你的机器上安装NCCL库。你可以通过以下命令在Ubuntu上安装NCCL库： ``` sudo apt-get install libnccl-dev ``` 如果你使用的是其他操作系统，请查看相应的NCCL安装文档。安装完成后，你可以尝试重新运行你的代码。
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值