Swin Transformer训练报错问题

最新推荐文章于 2024-12-21 21:29:12 发布
最新推荐文章于 2024-12-21 21:29:12 发布
阅读量2.1k 收藏 6
点赞数 1
文章标签： transformer 深度学习 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Evan_qin_yi_quan/article/details/131433272
版权
1. 训练遇到报错问题

（1）mportError: cannot import name '_pil_interp' from 'timm.data.transforms'

       原因： timm.data.transforms里面没有_pil_interp，只有str_to_pil_interp、_str_to_pil_interpolation、_pil_interpolation_to_str

      解决办法：在build.py中将下面图中的 _pil_interp改为str_to_pil_interp，下图是已经改变后的。

改完上面两步后发现还有一个错误提示

 init() got an unexpected keyword argument ‘t_mul’

在  lr_scheduler.py中，点击进入进入到相应代码处，注释掉图中代码即可。

 

芒果YOLOv5改进89：主干篇：结合 Swin Transformer V2结构，Swin Transformer V2：通向视觉大模型之路
包括YOLOv5、YOLOv7、YOLOv8等模型改进
09-07 1万+
芒果YOLOv5改进：主干篇：结合 Swin Transformer V2结构，Swin Transformer V2：通向视觉大模型之路
Swin Transformer做backbone的YoloX目标检测
shayinzzh的博客
05-30 1万+
使用Swin Transformer做骨干网络进行YoloX目标检测
timm使用swin-transformer
算法探索之路
02-22 7509
swin-transformer
mmsegmentation训练swintransformer报错
sajerry的博客
11-19 186
在tools/train.py 中添加两行代码，运行python tools/train.py configs\swin\upernet_swin_tiny_patch4_window7_512x512_160k_ade20k_pretrain_224x224_1K.py 生成配置文件。Swin Transformer的backbone为upernet, os.path.join()会使用""来拼接路径，这样就会出现\u，而\uXXXX代表一个unicode编码。
Swin transformer TypeError: __init__() got an unexpected keyword argument ‘t_mul‘
abc1831939662的博客
03-14 5873
Traceback (most recent call last): File "main.py", line 357, in <module> main(config) File "main.py", line 99, in main lr_scheduler = build_scheduler(config, optimizer, len(data_loader_train)) File "/home/ubuntu/wgp/Swin-Transformer/lr.
使用自己的数据集训练SwinTransformer时交叉熵出现：RuntimeError: CUDA error: an illegal memory access was encountered
qq_52060635的博客
10-31 308
解决！！！RuntimeError: CUDA error: an illegal memory access was encountered
Swin-Transformer-Object-Detection训练自己数据集以及报错IndexError: list index out of range
Ambition_Du的博客
12-01 721
2.按照参考链接修改相关参数之后进行训练，发现报错IndexError: list index out of range。很悲伤，以为自己的数据集有问题，一直在尝试不同的转换方式，实际上修改一个checkpoints.py文件即可，1.我使用的是VisDrone数据集，将其转换为COCO数据集格式，，按照这个文章进行相应的修改就可以啦。
TypeError: SwinTransformer: __init__() got an unexpected keyword argument
weixin_50952710的博客
11-15 2115
TypeError: SwinTransformer: __init__() got an unexpected keyword argument
Swin Transformer for Image Classification【代码】
qq_35685051的博客
12-21 867
如果还想继续提高准确度，可以从后往前继续解冻其他层，同时近一步降低学习率。我解冻了最后三层，准确率可以达到94.1%。},},},},},
Swin-Transformer-Object-Detection环境搭建训练流程及问题
weixin_41868417的博客
02-25 4834
一、背景 Swin-Transformer（Swin代表移位窗口shifted window）可以作为计算机视觉的通用backbone。它的github网址是Swin-Transformer，然后它有好几种应用： Getting Started For Image Classification, please see get_started.md for detailed instructions. For Object Detection and Instance Segmentation, please
swin transformer解读
qq_31473155的博客
07-09 2251
原文 论文链接：Swin Transformer: Hierarchical Vision Transformer using Shifted Windows 源码地址：https://github.com/microsoft/Swin-Transformer 引言 目前Transformer应用到图像领域主要有两大挑战： 视觉实体变化大，在不同场景下视觉Transformer性能未必很好。即目标尺寸多变。不像NLP任务中token大小基本相同，目标检测中的目标尺寸不一，用单层级的模型很难有好的效果。 图
解决TypeError: SwinTransformer: __init__() got an unexpected keyword argument ‘embed_dim‘
GZKPeng的博客
07-07 6359
Swin transformer复现遇到的问题及解决方法 问题：TypeError: SwinTransformer: init() got an unexpected keyword argument ‘embed_dim’
深度学习训练和测试时出现问题：error: the following arguments are required: --dataroot，解决：训练文件的配置方法和测试文件的配置方法
热门推荐
qq_40280673的博客
07-22 3万+
在深度学习训练和测试时出现问题：error: the following arguments are required: --dataroot，出现这种问题的主要原因是，训练的配置文件和测试的配置文件有问题，具体解决方法见下。
保姆级使用PyTorch训练与评估自己的Swin Transformer V2网络教程
啥都生的博客
11-08 7519
保姆级使用PyTorch训练与评估自己的Swin Transformer V2网络教程
报错：导入`transformers`模块时发生了错误
追求卓越
05-29 6868
确保在执行以上步骤之前，你的网络连接正常，并且Anaconda环境或虚拟环境已激活。如果问题仍然存在，请确保你的安装环境和依赖项都正确配置，并尝试进行进一步的故障排除。版本与你的代码兼容。模块时发生了错误，可能是因为缺少了该模块。为了解决这个问题，需要安装。
跑Swin-Transformer-Object-Detection过程中遇到的坑及解决
qq_42521345的博客
12-26 3187
代码地址：GitHub - SwinTransformer/Swin-Transformer-Object-Detection: This is an official implementation for "Swin Transformer: Hierarchical Vision Transformer using Shifted Windows" on Object Detection and Instance Segmentation. BUG1: 安装mmcv报了undefined sym
python画图时，from pyecharts import Geo时出错
zcy5201314520的博客
08-20 1693
2.如果pyecharts==0.5.11下上的版本，则使用from pyecharts.charts import Geo导入即可。一、错误提示: lmportError: cannot import name 'Geo' from 'pyecharts。1.如果 pyecharts==0.5.11下的版本，使用命令from pyecharts import Geo。
Pytorch transformer中使用src_key_padding_mask后loss为nan
xueying_2017的博客
05-11 1460
原因是mask错误，被mask的部分应该为True data = [1, 2, 3] len = 5 mask = [False, False, False, True, True]
mmdetection中使用swin transformer
最新发布
03-19
<think>好的，我现在需要帮助用户在MMDetection框架中集成和使用Swin Transformer。首先，我应该回忆一下MMDetection的基本结构和它支持的模型类型。MMDetection是一个基于PyTorch的目标检测库，支持多种检测模型，比如Faster R-CNN、Mask R-CNN等，并且允许用户使用不同的主干网络（backbone）。 用户提到Swin Transformer，这是一个基于Transformer的视觉模型，由微软提出，它在图像分类、目标检测等任务中表现很好。我需要确定MMDetection是否已经内置支持Swin Transformer。根据之前的了解，MMDetection在较新的版本中可能已经支持Swin Transformer作为主干网络，比如在v2.x版本中。因此，用户可能不需要自己从头集成，而是可以通过配置文件的修改来使用现有的实现。 接下来，我应该考虑用户如何具体配置和使用。通常，MMDetection使用配置文件（config文件）来定义模型结构、数据集、训练参数等。用户需要在配置文件中指定backbone为Swin Transformer。可能需要安装相应的依赖，比如MMClassification，因为Swin Transformer可能作为预训练模型存放在那里。 然后，步骤可能包括安装必要的库，如mmdet、mmcv、mmcls等，确保版本兼容。然后修改配置文件中的model.backbone部分，指向Swin Transformer的配置，并设置预训练权重的路径。同时，可能需要调整输入图像的尺寸，因为Swin Transformer可能有特定的分辨率要求，比如224x224或更大的尺寸。 另外，用户可能需要下载预训练的Swin Transformer权重，并在配置中指定路径。训练时，使用tools/train.py脚本并指定配置文件即可。 我还需要注意是否有常见的错误，比如版本不匹配，或者配置文件参数不正确。例如，如果用户使用的MMCV版本过低，可能不支持某些操作，导致运行错误。此时需要建议用户升级到适当的版本，并按照官方文档检查依赖关系。 另外，用户可能想知道如何验证Swin Transformer是否正确集成。可以建议用户运行测试脚本或检查日志中的模型结构输出，确认backbone是否已替换为Swin Transformer。 最后，生成相关问题，可能涉及性能优化、与其他模型的比较，或者在不同任务中的应用情况，这些都需要基于已有的引用和文档来推荐。</think>在MMDetection中集成和使用Swin Transformer的步骤如下： ### 1. 环境准备 - **安装依赖库**：确保已安装兼容版本的`mmdet`、`mmcv`和`mmcls`。推荐使用以下版本： ```bash pip install mmdet==2.25.0 mmcv-full==1.6.0 mmcls==0.23.0 ``` - **验证安装**：运行`import mmdet, mmcv`确认无报错[^1]。 ### 2. 配置文件修改 MMDetection通过配置文件定义模型结构。以`Faster R-CNN`为例，修改其配置文件（如`configs/swin/mask_rcnn_swin-t-p4-w7_fpn_1x_coco.py`）： ```python model = dict( backbone=dict( type='SwinTransformer', embed_dim=96, depths=[2, 2, 6, 2], num_heads=[3, 6, 12, 24], window_size=7, pretrained='pretrained/swin_tiny_patch4_window7_224.pth' ), neck=dict(...), rpn_head=dict(...), roi_head=dict(...) ) ``` 需指定`pretrained`参数为预训练权重路径[^2]。 ### 3. 下载预训练权重 从官方仓库获取Swin Transformer的预训练模型： ```bash wget https://github.com/SwinTransformer/storage/releases/download/v1.0.0/swin_tiny_patch4_window7_224.pth ``` ### 4. 训练与推理 - **训练命令**： ```bash tools/train.py configs/swin/your_config_file.py ``` - **测试命令**： ```bash tools/test.py configs/swin/your_config_file.py your_checkpoint.pth --eval bbox segm ``` ### 关键注意事项 - **输入分辨率**：Swin Transformer通常需要输入尺寸为$224 \times 224$的整数倍（如$224 \times 224$或$448 \times 448$）。 - **显存优化**：若显存不足，可减小`batch_size`或在配置文件中启用`gradient_checkpoint`： ```python backbone=dict(use_checkpoint=True) ```
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值