关于超分辨重建SwinIR模型的训练中的一些问题

最新推荐文章于 2024-09-13 10:27:31 发布
最新推荐文章于 2024-09-13 10:27:31 发布
阅读量717 收藏 7
点赞数 1
文章标签： 深度学习 人工智能 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Forever666/article/details/130216201
版权

文章目录

主要记录一下超分辨重建模型SwinIR训练中的成本，也给要做这部分的同学一点直观认识

…总感觉意义不大
官方公布的可训练代码

大部分参数选择默认
num_workers = 16
batch size = 32
GPU:4*3090
显存占用：15.6G/每张3090，总的显存占用在62G左右，建议至少70G显存往上，毕竟要做Transformer。
也可以选择小的batch size进行训练，例如我曾经尝试过batchsize = 6，显存占用10G左右，然后结果和训练时间一言难尽。
iterations:[250000,400000,450000,475000,500000]共500K (batchsize = 32)
epochs:DIV2K(论文官方为900张图像):17k以上；DF2K(论文官方为3550张图像):4.5k以上
训练时间：大约3.2天(采用的是autodl总用的GPU,开启了多GPU分布式训练，总感觉这个时间太长（官方数据8张2080ti使用的1.8天））
训练结果：以PSNR_Y进行测试。
使用DIV2K进行训练，在Set5和Set14结果接近，BSD100，Urban100和Manga109均达不到论文中的效果，最大有0.1db差距。应该需要增加训练时间。
使用DF2K进行训练，在Set5、Set14、BSD100，Urban100和Manga109达到论文中的效果，PSNR约有0.01db的正常误差范围。

下一步测试一下在4090/A100 40G上的速度表现…

Forever666
关注
【超分辨率（Super-Resolution）】关于【超分辨率重建】专栏的相关说明，包含专栏简介、专栏亮点、适配人群、相关说明、阅读顺序、超分理解、实现流程、研究方向、论文代码数据集汇总等
畅游计算机视觉的海洋
03-25 1万+
本专栏研究领域为【超分辨率重建】，涵盖图像超分、视频超分，实时超分，4K修复等方面。主要内容包括主流算法模型的论文精读、论文复现、毕业设计、涨点手段、调参技巧、论文写作、应用落地等方面。算法模型从SRCNN开始更新至今，一般是一篇论文精读对应一篇论文复现。论文精读详解理论，归化繁为简，归纳核心，积累词句，培养阅读论文和论文写作能力。论文复现依托Pytorch代码，实现完整的模型训练流程，总结调参方法，记录碰到的bug，论文插图可视化，培养读写代码能力、做实验的能力、以及应用落地能力。
SwinIR实战：详细记录SwinIR的训练过程
05-01
在写这边文章之前，我已经翻译了论文，讲解了如何使用SWinIR进行测试？ 接下来，我们讲讲如何SwinIR完成训练，有于作者训练了很多任务，我只复现其中的一种任务。
SwinIR实战：如何使用SwinIR和预训练模型实现图片的超分
limingmin2020的博客
07-19 1598
本文介绍如何使用SwinIR和预训练模型实现图像的超分，手把手教学。
SWinIR概述
qq_45033722的博客
03-01 9042
1.概要 图像恢复是一个长期存在的低水平视觉问题，它旨在从低质量的图像（例如，缩小比例、有噪声和压缩的图像）中恢复高质量的图像。该文提出了一种基于Swin变换的强基线模型SwinIR。SwinIR由浅层特征提取、深度特征提取和高质量的图像重建三部分组成。特别地，深度特征提取模块由几个残余的Swin变压器块(RSTB)组成，每个块都有几个Swin变压器层和一个残余连接。该文对三个具有代表性的任务进行了实验：图像超分辨率（包括经典、轻量级和真实世界的图像超分辨率）、图像去噪（包括灰度和彩色图像去噪）和JPEG压
图像恢复 SWinIR : 彻底理解论文和源代码 (注释详尽）
热门推荐
书山有路，学海无涯！
11-11 5万+
文章目录SwinIR 论文SWinIR 网络结构整体框架浅层特征提取深层特征提取图像重建模块主要代码理解SwinIRMLPPatch EmbeddingWindow Attention残差 Swin Transformer 块 (RSTB)HQ Image Reconstruction一个测试实例参考文献结语 SwinIR 论文 主要工作：将 Swin Transformer 在图像恢复中应用，降低参数量的同时取得很好的效果。 论文地址：https://arxiv.org/pdf/2108.10257.p
SwinIR代码理解笔记
学习记录
12-20 1549
SwinIR理解与解读
SwinIR: Image Restoration Using Swin Transformer
mytzs123的博客
04-25 415
图像恢复是一个长期存在的低水平视觉问题，旨在从低质量图像（例如，缩小尺寸、噪声和压缩图像）中恢复高质量图像。虽然最先进的图像恢复方法是基于卷积神经网络的，但很少有人尝试使用Transformers，因为它在高级视觉任务中表现出令人印象深刻的性能。在本文中，我们提出了一种基于Swin Transformer的用于图像恢复的强基线模型SwinIR。SwinIR由三部分组成：浅层特征提取、深层特征提取和高质量图像重建。特别地，深度特征提取模块由几个剩余的Swin-Transformer块（RSTB）组成，每个块具
基于Srgan训练自己的超分辨率重建网络模型python源码+数据集.zip
03-04
基于Srgan训练自己的超分辨率重建网络模型python源码+数据集.zip基于Srgan训练自己的超分辨率重建网络模型python源码+数据集.zip基于Srgan训练自己的超分辨率重建网络模型python源码+数据集.zip基于Srgan训练自己的...
OpenCV图像超分辨率重建 4种网络模型
05-13
由于有些模型比较大，OpenCV代码库中没有将它们包含进来。目前，支持4种不同的超分辨率模型，它们可以实现2倍、3倍、4倍甚至8倍的图像方法。 EDSR： 这个是表现最好的模型。但是这个模型也是最大的，所以运行速度会...
基于预训练模型的中文古文分类.zip
01-07
在当前的IT领域，预训练模型已经成为自然语言处理（NLP）的重要工具，尤其是在中文文本的理解和分析上。...同时，它也为NLP领域的研究者和实践者提供了关于如何利用预训练模型解决特定问题的实例，具有很高的参考价值。
SRCNN_resolution_深度学习_超分辨率_超分辨率重建_超分辨重建_
10-03
在这些技术中，深度学习方法已经取得了显著的进步，而 SRCNN（Super-Resolution Convolutional Neural Network）则是这一领域的里程碑式工作，开创了深度学习在图像超分辨率重建问题的应用先河。 SRCNN 由 Kim 等人...
超分算法 SwinIR: Image Restoration Using Swin Transformer
qq_45122568的博客
05-17 9262
这篇文章结构比较简单，如果看过Swin-Transformer的话就没什么难点了。作者引入Swin-T结构应用于低级视觉任务，包括图像超分辨率重建、图像去噪、图像压缩伪影去除。网络由一个浅层特征提取模块、深层特征提取模块、重建模块构成。重建模块对不同的任务使用不同的结构。浅层特征提取就是一个3×3的卷积层。深层特征提取是k个RSTB块和一个卷积层构成。RSTB（Res- SwinIR: Image Restoration Using Swin Transformer[ICCV 2021]Abstract1.
【学习记录】使用KAIR训练SwinIR模型教程
行云流水剑的博客
07-14 3231
1.使用anaconda创建一个新环境 py36KAIR 2.到http://download.pytorch.org/whl/torch_stable.html下载相对应CUDA版本的pytouch3.下载完后打开cmd然后cd进入下载目录使用以下命令安装pytouch 4.打开cmd，然后cd进入KAIR项目所在目录，使用以下命令安装其它所需模块 二、训练集和测试集准备 1.到https://data.vision.ee.ethz.ch/cvl/DIV2K/下载训练集和测试集 2.在KAIR-mast
SwinIR的训练过程
ducanwang的博客
02-19 607
【代码】SwinIR的训练过程。
超分之SwinIR
weixin_44342777的博客
03-17 1496
SwinIR----首个将Swin TRansformer用于low-level计算机视觉的SR任务
【第36篇】SwinIR(超分)
m0_47867638的博客
06-23 255
论文地址：https://arxiv.org/pdf/2108.10257.pdf预训练模型下载：https://github.com/JingyunLiang/SwinIR/releases训练代码下载：https://github.com/cszn/KAIR测试：https://github.com/JingyunLiang/SwinIR图像恢复是一个长期存在的低级视觉问题，旨在从低质量图像（例如，缩小、噪声和压缩图像）中恢复高质量图像。
基于深度学习的多模态信息检索
最新发布
weixin_42605076的博客
09-13 1212
基于深度学习的多模态信息检索技术，通过多模态特征的提取、融合和匹配，实现了从多种数据模态中进行高效检索的能力。随着深度学习技术的不断进步，特别是注意力机制和变换器架构的应用，多模态信息检索将在多个领域展现出更广泛的应用前景和潜力。
swinir 如何使用
05-12
SwinIR 是一种用于图像超分辨率，去噪和增强的深度学习模型。下面是使用 SwinIR 的一些步骤： 1.安装Python和相关依赖项 需要使用 Python 3.7 或更高版本并安装 PyTorch 1.7.0 及其以上版本。其他必要的依赖项还包括 numpy，opencv-python 和tqdm。 2.下载 SwinIR 模型 SwinIR 通过 GitHub 代码库提供。可以从 https://github.com/JingyunLiang/SwinIR 下载模型。 3.设置输入输出路径 需要根据个人需求设置输入图像路径、输出图像路径以及 SwinIR 模型路径。 4.运行模型 在设置好路径之后，可以在命令行中运行 SwinIR 模型。模型的输出将被保存在指定的输出路径中。 总体而言，使用 SwinIR 基本上就是这些步骤。当然，实际操作可能会因具体应用场景而有所不同。例如，在对特定图像进行处理时，可能需要微调 SwinIR 模型的超参数，以获取更好的结果。此外，SwinIR 还提供了 API 文档，对于有经验的开发者来说，也存在相应的二次开发可能性。
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值