DeblurGANv2的改进策略1-更换不同的优化器optimizer

已于 2024-03-18 16:14:58 修改
阅读量399 收藏 9
点赞数 11
分类专栏： # 去模糊方向 文章标签： gan 深度学习
于 2024-02-21 18:09:42 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_45926697/article/details/136204755
版权

优化器是网络训练中的重要组成部分
目前常用的优化器有Adam，adadelta，AdaMax，Nadam，RMSProp和SGD等等。在DeblurGANv2的源代码中，使用的优化器为Adam，以下将尝试不同的优化器对训练过程和训练结果的影响，对DeblurGANv2进行改进。
修改步骤：
修改1：config.yaml配置文件中的优化器更改
在这里插入图片描述
修改2：train.py文件中定义所需要的优化器，
注：有些优化器pytorch已经内置，可以直接调用，没有内置的需要定义优化器，然后进行调用
在这里插入图片描述
使用Adam优化器的训练结果（源代码使用这个优化器）
在这里插入图片描述

使用adadelta优化器的训练结果
在这里插入图片描述

使用AdaMax优化器的训练结果
在这里插入图片描述

使用Nadam优化器的训练结果
在这里插入图片描述
使用RMSProp优化器的训练结果
在这里插入图片描述
使用SGD优化器的训练结果
在这里插入图片描述
更换不同的优化器，对性能指标的影响：
PSNR指标对比
在这里插入图片描述
PSNR指标对比平滑操作（分析-信号处理-平滑-窗口点数20）
在这里插入图片描述

SSIM指标对比
在这里插入图片描述
SSIM指标对比平滑操作
在这里插入图片描述

总结：
1.更换优化器，以PSNR数据为例，SGD和adadelta的值较低，adam和RMSProp较高，其中adam是源码使用的优化器
2.更换优化器，以SSIM数据为例，SGD和adadelta的值较低，adam和RMSProp较高，其中adam是源码使用的优化器
总的来说，还是原来的优化器Adam和修改为RMSProp，具有更好的效果，PSNR和SSIM更高！

人间烟火_0528
关注
  • 11
    点赞
  • 踩
  • 9
    收藏
    觉得还不错? 一键收藏
  • 2
    评论
专栏目录
Ranger-Deep-Learning-Optimizer-master.zip
08-28
该压缩包为Ranger 优化器（性能优于Adam）- a synergistic optimizer using RAdam (Rectified Adam) and LookAhead in one codebase。
图像去模糊之DeblurGAN-v2
热门推荐
年轻即出发，
05-27 1万+
论文：DeblurGAN-v2: Deblurring (Orders-of-Magnitude) Faster and Better Github：https://github.com/TAMU-VITA/DeblurGANv2 https://github.com/KupynOrest/DeblurGANv2 ICCV 2019 论文提出了DeblurGAN的改进版，DeblurGAN-v2，在efficiency, quality, flexibility 三方面都取得了sta..
探索前沿图像处理：DeblurGANv2 - 实现超分辨率与去模糊
最新发布
gitblog_00069的博客
04-10 946
探索前沿图像处理：DeblurGANv2 - 实现超分辨率与去模糊 项目地址:https://gitcode.com/VITA-Group/DeblurGANv2 在数字化世界中，我们经常遇到因拍摄条件不佳或设备限制导致的模糊图片。幸运的是，深度学习技术为解决这一问题带来了全新的解决方案。今天，我们要介绍的项目是VITA-Group开发的DeblurGANv2，一个基于神经网络的实时图像去模糊及...
gpx-simplify-optimizer:免费曲目优化器在线服务
07-23
在线跟踪简化器/优化器 GPX/GeoJSON/KML 轨道的在线简化器和优化器。 版权所有 2014 维护者 演示 用法 上传 GPX/KML/GeoJSON 文件 通过减少节点数量来简化地图上的轨迹 以不同格式保存或查看简化轨迹：GPX / KML / GeoJSON / Mediawiki Maps 安装 git clone https://github.com/stefanocudini/gpx-simplify-optimizer.git cd gpx-simplify-optimizer git submodule init git submodule update 建造 npm install grunt 作者 版权所有 2019
DeblurGAN:通过DeblurGANv2网络对图像进行去模糊以改善图像清晰度
03-16
DeblurGAN 通过DeblurGANv2网络对图像进行去模糊以改善图像清晰度
deblurgan-v2 预训练模型 fpn-inception
04-04
deblurgan_v2 预训练模型权重 fpn_inception 适合github上下载不了的人
Deblurgan_v2预设权重文件
09-04
适合没有VPN又需要Deblurgan_v2预设权重文件的人
GAN方法去模糊-DeblurGANv2
机器学习社区
01-10 3970
DeblurGANv2是乌克兰天主教大学的Orest Kupyn等人提出的一种基于GAN方法进行盲运动模糊移除的方法。它在第一版DeblurGAN基础上进行改进而来，通过引入Feature Pyramid Network与轻量型backbone等使得DeblurGANv2取得更快、更优的性能。作者首次将FPN引入到去模糊中作为生成器的核心模块。 FPN可以与大量的backbone协作，可以轻松的在性能与效率方面取得均衡。FPN-Inception-ResNet-v2集成取得了SOTA性能，而FPN-Mobi
DeblurGAN-v2: Deblurring (Orders-of-Magnitude) Faster and Better 图像去模糊
like_jmo的博客
11-05 3855
设计了一个新的端到端的生成对抗网络，为了解决运动中图像模糊问题，DeblurGAN-V2，基于relativistic conditional GAN（拥有双尺度鉴别器） 首次将特征金字塔引入到去模糊问题，作为生成器的核心模块。可以灵活搭配各种主干网络，选择Inception-ResNet-v2主干网络可以获得更高的图片质量，采用轻量级网络像MobileNet和他的变形体可以获得更快的速度。 DeblurGAN-v2 在去模糊质量以及效率方面在几个流行的基准测试中获得了非常有竞争力的性能。
DeblurGANv2图像去模糊算法代码实践！
爱CV
10-23 7010
1.起源：GAN 结构与原理 在介绍DeblurGANv2之前，我们需要大概了解一下GAN，GAN最初的应用是图片生成，即根据训练集生成图片，如生成手写数字图像、人脸图像、动物图像等等，其主要结构如下： 我们先由上图的左下方开始，假设现在只有一个样本，即batch size为1，则Random noise是一个由服从标准正态分布的随机数组成的向量。首先，我们将Random noise输入Generator，最原始GAN的Generator是一个多层感知机，其输入是一个向量，输出也是一个向量，然后我
pytorch-optimizer:torch-optimizer -- Pytorch 优化器的集合
07-23
火炬优化器 torch-optimizer -- 与模块兼容的优化器集合。 简单的例子 import torch_optimizer as optim # model = ... optimizer = optim . DiffGrad ( model . parameters (), lr = 0.001 ) optimizer . step () 安装 安装过程很简单，只需： $ pip install torch_optimizer 文档 https://pytorch-optimizer.rtfd.io 支持的优化器 A2GradExp https://arxiv.org/abs/1810.00553 A2GradInc https://arxiv.org/abs/1810.00553 A2GradUni https://arxiv.org/abs/1810.00
torch-optimizer -- Pytorch的优化器集合-python
06-18
torch-optimizer -- collection of optimizers for Pytorch torch-optimizer torch-optimizer -- 与 optim 模块兼容的 PyTorch 优化器集合。 简单示例 import torch_optimizer as optim # model = ... optimizer = optim.DiffGrad(model.parameters(), lr=0.001) optimizer.step() 安装 安装过程很简单，只需：$ pip install torch_optimizer 文档 https:// pytorch-optimizer.rtfd.io 支持的优化器 AccSGD https://arxiv.org/abs/1803.05591 AdaBound https://arxiv.org/abs/1902.09843 AdaMod https://arxiv.org/abs/1910.12249 DiffGrad https:// arxiv.org/abs/1909.11015
deblurGAN V2预训练模型.zip
02-10
deblurGAN V2预训练模型.zip
Fribbels-Epic-7-Optimizer:手机游戏Epic 7的齿轮优化器
04-13
Fribbels Epic 7齿轮优化器 这是用于为Epic 7组织齿轮并优化齿轮和单元构建的工具。齿轮装置非常耗时，而且在游戏中很难找到最佳齿轮组合，因此我这样做是为了帮助简化齿轮安装过程。 快来加入Fribbels E7 ...
pytorch基础（十五）-----------优化器optimizer
m0_55769743的博客
01-27 3302
pytorch的优化器的作用：管理并更新模型中可学习参数的值， 使得模型输出更接近真实标签（更新采用是梯度下降） 一、optimizer的基本参数 defaults：优化器超参数 state：参数的缓存，如momentum的缓存 param_groups：管理的参数组 _step_count：记录更新次数，学习率调整中使用（比如要在第n次迭代后降低学习率） 二、optimizer的基本使用方法 zero_grad()：清空所有参数的梯度，因为张量不会自动清零会自动累加，在梯度求导之前需要进行梯度清零 ste
DeblurGANv2的改进策略2-更换不同的激活函数
weixin_45926697的博客
02-22 257
目前常用的激活函数有sigmoid，swish和Leakyrelu等，其中Leakrelu为GAN网络训练中比较常用的激活函数，也是DeblurGANv2源代码使用的激活函数，以下将尝试更改不同的激活函数，研究对训练过程和训练结果的影响，对DeblurGANv2进行改进。修改models文件夹下的网络搭建部分networks.py文件，更改激活函数。：使用源码自带的激活函数具有较好的训练效果！如上图所示，总共有8个部分需要修改。
更好也更快！最先进的图像去模糊算法DeblurGAN-v2
我爱计算机视觉
08-14 2723
点击我爱计算机视觉标星，更快获取CVML新技术以GAN为代表的生成模型正在视觉造假的路上越来越成熟，狗变猫、白马变斑马、实景变素描是GAN用于高级图像生成的例证。能否将GAN应用于低级的...
DeBlurGANv2图像去模糊 训练自己的数据集
qq_41549249的博客
11-27 1万+
之前在有位博主的DeblurGANv2教程的页面下留了言，很多小伙伴来私信我： config.yaml怎么调参数？ predict.py和train.py需要怎么修改？ 之前只跑了predict，有些问题也没办法解答。最近自己跑了一下train，大概的效果也有一点，写在这里和大家分享一下，不足之处也请大佬们指正！ 【注释】： 本文不涉及具体的batch epoch lr 等参数如何调整，只介绍如何跑通predict和train 先放上论文和github： 论文 github 目录Debl
采用Adam优化器作为优化器Optimizer
06-08
好的，你的第一个问题是关于优化器的选择，你是否考虑使用Adam优化器作为优化器Optimizer？ 答案是，是的，Adam优化器是一种基于梯度的优化算法，它可以自适应地调整每个参数的学习率，从而更快地优化模型。在深度学习中，Adam优化器已经被广泛应用，因为它可以帮助我们更快地达到高质量的模型。当然，除了Adam优化器，还有其他优化器可以选择，如SGD、Momentum、Adagrad等。不同的优化器适用于不同的场景和问题，需要根据具体情况进行选择。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值