bug记录：Yolov5使用注意力机制CBAM报错untimeerror: adaptive_avg_pool2d_backward_cuda does not have a deterministi

最新推荐文章于 2024-07-30 09:45:58 发布
最新推荐文章于 2024-07-30 09:45:58 发布
阅读量5.5k 收藏 60
点赞数 36
分类专栏： BUG 文章标签： pytorch 深度学习 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_39696563/article/details/126339400
版权

用colab跑CBAM注意力机制的时候一直报错

runtimeerror: adaptive_avg_pool2d_backward_cuda does not have a deterministic implementation, but you set 'torch.use_deterministic_algorithms(true)'. you can turn off determinism just for this operation, or you can use the 'warn_only=true' option, if that's acceptable for your application. you can also file an issue at https://github.com/pytorch/pytorch/issues to help us prioritize adding deterministic support for this operation.

改了几天，我发现用pycharm就不报错，可能是池化层的反向传播出现了问题。所以我尝试把torch.use_deterministic_algorithms(False)加到train.py里面，结果就成功了。

加到train.py 的335行scaler.scale(loss).backward()前面

 

 

 

elkluh
关注
  • 36
    点赞
  • 踩
  • 60
    收藏
    觉得还不错? 一键收藏
  • 26
    评论
专栏目录
出现 RuntimeError: adaptive_avg_pool2d_backward_cuda does not have a deterministic implementation的解决方法
码农研究僧的博客
02-06 4265
大致就是在执行主函数的训练函数中，在反向传播这一块出现了问题。解决方法就是添加如下代码块。找到提示bug的行数。
融合CBAM通道注意力机制的YOLOv5-v6.1版本源码
12-07
YOLOv5是一种基于深度学习的目标检测框架，其最新版本v6.1引入了CBAM（Channel and Spatial Attention Module）通道注意力机制，旨在提升模型的性能和效率。CBAM是深度学习领域中一种广泛使用的注意力机制，它通过...
CBAM注意力机制代码，以及如何对yolov5进行改进
12-06
注意力机制代码
yolo添加注意力机制报错，在给yolo算法添加注意力机制时，例如CBAM注意力机制会报错RuntimeError: adaptive_max_pool2d_backward_cuda does
qq_37142216的博客
08-29 3150
在我们给yolov5算法添加注意力机制模块时，模型这些都能成功加载。但是在扫描完图片过后就会报如下的错误。
backbone 添加SimAm、Coordtt 之类得注意力机制报错记录
zsj540070的博客
10-18 746
翻译：Variable._execution_engine.run_backward（ # 调用C++引擎以运行向后传递 运行时错误：adaptive_avg_pool2d_backward_cuda没有确定性实现，但您设置了“torch.use_deterministic_algorithms（True）”。可以仅对此操作关闭确定性，也可以使用“warn_only=True”选项（如果应用程序可以接受）。或者调用warn_only=True。
yolov5改了CBAM注意力机制后报错:runtimeerror:adaptive_avg_pool2d_backward_cuda does not have a deterministic im
m0_55515326的博客
05-22 1062
可以试试将torch.use_deterministic_algorithms(False)添加到train.py里面（反向传播）的这个位置处。我也是参考下面这位博主解决的，如果帮助到大家，并且有时间的话给这位博主点点关注，至于我为什么要发一下呢，就是想着如果多发一遍的话，更多需要这个解决方法的人可能更容易看到。
Yolov5 中添加注意力机制 CBAM时，报错：RuntimeError: adaptive_max_pool2d_backward_cuda does not have a determinist
hjkhkbb的博客
01-23 1003
PyTorch 提供了一个配置选项来要求所有操作都必须是确定性的，导致某些操作因为没有确定性实现而失败。在yolov5中添加CBAM模块时，会遇到的错误提示是由于 PyTorch 中的。在计算反向传播时缺乏确定性实现。这个问题通常与使用了不支持确定性操作的功能（如。
YOLOv5添加CBAM注意力机制训练前报错RuntimeError: adaptive_max_pool2d_backward_cuda does not have a deterministic.
xieqiuya的博客
01-29 487
问题出在反向传播上，先前添加SE注意力机制时不会出现这样的报错，因为其只考虑了通道注意力机制，而添加的CBAM注意力机制还考虑了空间注意力机制。中321行，或者直接搜索scaler.scale(loss).backward()，在其前面关闭这个决定性算法。这里以YOLOv5 7.0版本为例，在。
解决：RuntimeError: adaptive_max_pool2d_backward_cuda does not have........(添加注意力机制CBAM)
qq_46542320的博客
06-27 1247
在train.py文件中，大概324行左右，修改下列代码。重新运行 train.py 文件。
CBAM_keras_model_keras_densenet_残差网络_inceptionnet_注意力机制
09-11
标题中的“CBAM_keras_model_keras_densenet_残差网络_inceptionnet_注意力机制”揭示了这个压缩包文件包含的内容是关于深度学习模型的实现，具体涉及到Keras库、DenseNet、残差网络（ResNet）以及InceptionNet，...
CBAM-keras-master.rar_CBAM-keras_CBAM-keras-master_keras_keras c
07-14
实现深度学习中，对图像的注意力机制，强化网络的学习能力，提高网络精度和泛化能力。
可以训练yolov5(v6.0)、yolox、小型网络，添加注意力机制
02-06
总的来说，训练YOLOv5v6.0、YOLOX以及包含注意力机制的小型网络，需要对深度学习、目标检测算法和注意力机制有深入的理解。通过持续的实验和优化，可以构建出既高效又精确的目标检测模型，满足各种实际应用场景的...
【PyTorch】单目标检测项目部署
Frost_Descent的博客
07-23 664
详细参照前文【PyTorch】单目标检测项目import os# 定义一个函数，用于将a列表中的元素除以b列表中的对应元素，返回一个新的列表# 使用zip函数将a和b列表中的元素一一对应# 返回新的列表return div# 定义一个函数，用于将a列表中的元素乘以b列表中的对应元素，返回一个新的列表# 使用zip函数将a和b列表中的元素一一对应# 返回新的列表return div# 定义一个函数，用于调整图像和标签的大小# 获取原始图像的宽度和高度# 获取目标图像的宽度和高度。
深度学习基础
写代码的小阿帆的博客
07-25 738
本章学习了深度学习的两大分支，神经网络和决策树，神经网络依靠其隐藏层对数据进行特征提取和变换处理，最后在输出层输出结果，根据对输出要求的不同可以使用不同的激活函数，作为普通开发者我们应该更关注的是神经网络的优化方向，增加学习数据，调整正则化参数，以及交叉验证方法和迁移学习；决策树对人来说更容易理解，使用类似二叉树的数据结构进行分类判断，为了减少异常数据对树的影响，我们使用多个决策树票选结果，为了减少特征对树的影响，我们又引入了随机森林，最后介绍了目前效果很好的决策树方案——XGBOOST。
昇思25天学习打卡营第1天|快速入门
07-28 862
昇思大模型平台是一个集算法选型、创意分享、模型实验和大模型在线体验为一体的AI学习与实践社区，而且还内置了AI实验室，它覆盖多领域任务，体验全流程开发，支持用户在线训练和推理可视化，可创建自己的项目空间对待开发者很友好，提供云上开发环境，无需配置环境，既可灵活调试运行代码，每天免费使用8个小时。
MOE模式：或将是最好的大模型应用开发路径
AI相关从业分享
07-28 826
MOE（Mixture of Experts，混合专家）是一种机器学习模型架构，旨在通过结合多个专家网络来提高模型的性能和泛化能力。以下是传统模型和大模型中MOE模式的相关介绍及其优势。传统模型中的MOEGate网络：决定输入数据应该被路由到哪一个专家网络。Gate网络可以根据输入数据的特征来动态分配数据。Expert网络：一系列专门的网络，每个网络都是针对特定数据分布进行训练的。Expert网络可以是对特定问题有深入理解的小模型。组合层：将所有Expert网络的输出进行组合，形成最终的预测结果。
带并行卷积的水下图像背景前景分割方法
最新发布
renhongxia1的博客
07-30 777
图6，7为不同照度条件下水下图像及在不同分割方法的实验结果，其中第1，4行的原始图像为13.826 lx照度下采集的，第2，5行为6.947 lx照度下采集的，第3，6行为0.925 lx照度下采集的。在进行图像采集时，图6，7中，目标距离采集设备分别为1.4，1 m。图5是相机距目标1.4 m处采集的图像，图5a）为空气中的图像，图5b）为照度为13.826 lx条件下采集的水下图像，图5c）为照度为6.947 lx条件下采集的水下图像，图5d）为照度为0.925 lx条件下采集的水下图像。
【Python】 基于Q-learning 强化学习的贪吃蛇游戏（源码+论文）【独一无二】
测试开发自动化
07-26 1664
贪吃蛇环境模块：定义了游戏规则、状态空间、动作空间，并实现了环境的重置和步进逻辑。Q-learning 算法代理模块：实现了 Q-learning 算法，用于学习和决策游戏中的动作选择。游戏窗口模块：使用 Tkinter 创建图形界面展示游戏过程，并与环境和 Q-learning 代理进行交互。该设计使得贪吃蛇游戏能够通过强化学习算法进行自动训练，并通过图形界面展示训练过程。👉👉👉 源码获取 关注【测试开发自动化】公众号，回复 “ 强化贪吃蛇 ” 获取，拿来即用。👈👈👈。
yolov8添加注意力机制CBAM
08-30
您好！对于在YOLOv8中添加注意力机制CBAM，可以按照以下步骤进行： 1. 导入必要的模块和库： ```python import torch import torch.nn as nn ``` 2. 定义CBAM模块： ```python class CBAM(nn.Module): def __init__(self, channels, reduction=16): super(CBAM, self).__init__() self.channels = channels self.avg_pool = nn.AdaptiveAvgPool2d(1) self.max_pool = nn.AdaptiveMaxPool2d(1) self.fc1 = nn.Conv2d(channels, channels // reduction, kernel_size=1, padding=0) self.relu = nn.ReLU(inplace=True) self.fc2 = nn.Conv2d(channels // reduction, channels, kernel_size=1, padding=0) self.sigmoid_channel = nn.Sigmoid() self.conv_after_concat = nn.Conv2d(2, 1, kernel_size=3, stride=1, padding=1) self.sigmoid_spatial = nn.Sigmoid() def forward(self, x): avg_out = self.fc2(self.relu(self.fc1(self.avg_pool(x)))) max_out = self.fc2(self.relu(self.fc1(self.max_pool(x)))) channel_out = self.sigmoid_channel(avg_out + max_out) spatial_out = torch.cat([avg_out, max_out], dim=1) spatial_out = self.conv_after_concat(spatial_out) spatial_out = self.sigmoid_spatial(spatial_out) return x * channel_out * spatial_out ``` 3. 在YOLOv8的特征提取部分使用CBAM模块： ```python class YOLOv8(nn.Module): def __init__(self): super(YOLOv8, self).__init__() # ... self.cbam = CBAM(channels=XX) # ... def forward(self, x): # ... x = self.cbam(x) # ... return x ``` 请注意，上述代码中的`XX`需要替换为适合您的网络的通道数。这是一个简单的示例，您还可以根据需要进行更改和调整。 希望能对您有所帮助！如果您有任何疑问，请随时提问。
评论 26
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值