重读DRRN（深度递归残差网络）

已于 2022-10-22 20:46:44 修改
阅读量1.3k 收藏
点赞数
分类专栏： # 图像超分辨重建 文章标签： pytorch
于 2022-10-22 20:36:53 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_40107571/article/details/127466472
版权
本文介绍了DRRN模型，通过全局和局部残差学习缓解深层网络训练难题，利用递归控制参数，实现高效信息传递。实验显示，DRRN在保持高性能的同时，有效解决了梯度消失问题，适用于深层网络。模型采用了多路径结构的残差单元，以增强细节信息学习。在实验中，使用291数据集进行数据增强和比例扩充，调整网络参数以优化性能。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

本文采取了全局残差和局部残差学习，来减轻训练深层网络的难度，递归学习来控制模型的参数且可以有效的控制模型的参数。

 上图表示各个算法的性能对比图。其中x轴表示参数量，y轴表示psnr。其中三角表示不超过5层的模型，星号表示不超过20层，圆圈表示超过30层。

深度网络需要巨大的参数，与紧凑型的模型相比，大模型不适合移动设置。

在DRRN中，作者引入了两种残差学习方法。一种是全局残差，在VDSR和DRCN中，用于连接输入和输出，这是因为输入输出非常相似。另外一种是局部残差，在深度网络中由于其深度多以某些信息在中间的传递过程中出现了丢失，为了解决这个问题，作者引入了局部残差，可以将丰富的细节信息传递到后面。

在DRCN中含有16个递归卷积层，为了防止梯度消失提出了递归监督的方法。本文作者采取了是递归某个多路径结构的残差单元。

 上图是四个基本算法模型。从图中可以看

了解本专栏 订阅专栏 解锁全文 超级会员免费看
机器学习笔记 - 在IdenProf数据集上训练深度残差网络ResNet50
学以致用 知行合一
12-26 759
更深的神经网络更难训练。 所以Microsoft Research提出了一种残差的学习框架，以简化比以前使用的网络更深入的网络训练。 显式地将层重新构造为参考层输入学习剩余函数，而不是学习未参考函数。 提供了全面的经验证据，表明这些残差网络更易于优化，并可以从中获得准确性深度大大增加。 在ImageNet数据集上，评估深度最大为152层的残差网络-比VGG网络要深8倍，但复杂性仍较低。这些残留网络的整体在ImageNet测试仪上实现了3.57％的误差。 该结果在ILSVRC 2015分类任务......
【图像超分】论文精读：Image Super-Resolution via Deep Recursive Residual Network (DRRN)
主要更新底层视觉（去噪、超分等）相关的科研内容，形式为【论文精读】+【论文复现】
03-18 9514
最近，基于卷积神经网络 (CNN) 的模型在单图像超分辨率 (SISR) 方面取得了巨大成功。由于深度网络的强度，这些 CNN 模型从低分辨率输入图像学习到高分辨率目标图像的有效非线性映射，但代价是需要大量的参数。本文提出了一种非常深的 CNN 模型（最多 52 个卷积层），称为深度递归残差网络 (DRRN)，用于努力实现深度而简洁的网络。具体来说，采用残差学习，无论是全局还是局部方式，以减轻训练非常深的网络的难度；递归学习用于在增加深度的同时控制模型参数。广泛的基准评估表明，DRRN 在利用更少的参数的同
DRRN超分辨率
无奈的小心酸的博客
07-06 1万+
论文全名：Image Super-Resolution via Deep Recursive Residual Network 下载地址：http://pan.baidu.com/s/1hsQk8j6 code：https://github.com/CLT29/OpenSALICON 这是一篇CVPR2017的关于图像超分辨率的文章，相较于VDSR取得了更好的结果，从结构上看，还是之
DRRN_CVPR17:我们的CVPR'17论文“通过深度递归残差网络实现图像超分辨率”的代码
05-10
DRRN 引文 如果您发现DRRN对您的研究有用，请考虑引用： @inproceedings{Tai-DRRN-2017, title={Image Super-Resolution via Deep Recursive Residual Network}, author={Tai, Ying and Yang, Jian and Liu, Xiaoming }, booktitle={Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition}, year={2017} } 其他实施 由LoSealL 来自yun_yang 来自yiyang7 实现可调节的渐变裁剪 修改your_caffe_root / src / caffe / solvers /中的sgd_sol
超分论文：DRRN—Image Super-Resolution via Deep Recursive Residual Network(VDSR/DRCN/DRRN)
最新发布
m0_68654818的博客
04-09 1100
最近，基于卷积神经网络 （CNN） 的模型在单图像超分辨率 （SISR） 方面取得了巨大成功。由于深度网络的优势，这些 CNN 模型学习了从低分辨率输入图像到高分辨率目标图像的有效非线性映射，但代价是需要大量的参数。本文提出了一种非常深的 CNN 模型（多达 52 个卷积层），称为深度递归残差网络 （DRRN），该模型致力于深度而简洁的网络。具体来说，以全局和局部方式采用残差学习，以减轻训练非常深的网络的难度;递归学习用于控制模型参数，同时增加深度。
文献精读——（第二十五篇）基于递归残差网络的图像超分辨（DRRN）
weixin_37799689的博客
06-04 2757
一、文献梳理 1、研究背景 CNN在超分辨中的模型有SRCNN、VDSR、DRCN等，SRCNN网络深度很浅，VDSR、DRCN虽然加深了网络深度也增加了参数和存储量。VDSR使用全局残差学习GRL，即残差学习介于低分辨率的插值输入图片与高分辨率的输出图片之间。基于上述问题提出DRCN。 2、研究成果 1）意义 提出一个网络深度很深，但参数却很少的新型卷积神经网络 DRRN同时采用局部与全局残差结构以及递归结构 在实验中的结果均优于世界领先水平 2）实验 （1）设置 数据集设置：使用291
递归残差：该函数是递归残差方法的一种实现，用于检测线性回归中的异常值。-matlab开发
05-31
此函数是基于 F. Kianifard 和 WH Swallow 在 Biometrics, 1989 45, 571 中的论文，用于检测线性回归中的异常值的递归残差方法的实现。 虽然 MATLAB 有一些“检测异常值”的函数，但文档不一定清楚使用的方法。 这适用于一组成对的 xy 数据，这些数据假定遵循 y = mx+b
DRRN（Image Super-Resolution via Deep Recursive Residual Network）超分辨网络-详细分析
weixin_46515047的博客
12-22 2235
Contents1. IntroductionReferences 1. Introduction 这篇文章可以在一定程度上看做是DRCN的改良版，保留了DRCN的全局跳层连接和循环块提升网络深度但限制参数量的思想，增加了ResNet的局部跳层连接的思想。 这里提一下，如果本文中有些概念读者看的不太清晰，可以参考本专栏之前的文章，因为有些知识之前提过了，这里就一笔带过了，我们只列出本篇文章的一些创新点，而对冗余部分不多做说明。另外说一下，这个专栏目前的定位是以SISR为主题的，今后可能会引入其他low-l
深度递归残差网络：图像超分辨率新突破
残差学习允许网络更容易地优化深层结构，解决了深度网络中的梯度消失或爆炸问题。此外，通过使用递归块和堆叠层，DRRN能够在不增加额外参数的情况下增加网络深度，从而在保持高效的同时提升性能。 1.4 实验结果与...
深度残差网络
热门推荐
zackzhaoyang的专栏
06-13 1万+
深度残差网络在2015的ILSVRC比赛中获得取得第一的成绩，ICLR2016上也是重点议题之一。它主要思想很简单，就是在标准的前馈卷积网络上，加一个跳跃绕过一些层的连接。每绕过一层就产生一个残差块(residual block)，卷积层预测加输入张量的残差。如下图所示： 普通的深度前馈网络难以优化。除了深度，所加层使得training和validation的错误率增加，即使用上了batch n
DRRN
Major_S的博客
03-03 514
DRRN
纯C++超分辨率重建DRRN --改编--（三）主函数 DRRN
juebai123的博客
10-18 648
先说明一下，前面的哪些文章中的内存分配用了  new float[Size * sizeof(float)] 这里改成 new float[Size] 即然已经指定的类型，就不用 sizeof(类型)，就是说前面的哪些程序浪费了3倍内存。 主函数： void DRRN(int up_scale) { DRRN模型 sr; // 加载 CNN 模型参数 loadModel(&s...
残差网络Resnet
a1913526950的博客
11-04 842
背景：当训练层数增加时，会导致训练集和测试集的错误率增加（出现没有训练好的层），因此为了既要较高的训练层数，又不想让训练较差的层影响到训练结果，引出了Resnet（残差网络） 在串行的权重训练层中引出一个x，使H（x）为F（x）和x的堆叠，当F（x）包含的两层训练效果不好时，神经网络会将这两层的权重参数不断学习直至更新为0，此时就相当于跳过了这两层直接输入x，这样就可以大大减少训练较差的层对整体的训练效果的影响，这就是Resnet的原理 PS：最好将Resnet网络理解为一个特征提取而不是分类网络 参考视
DRRN阅读笔记
xiuluoLK的博客
12-10 5108
DRRN：深度递归残差网络 1.介绍 本文提出了一种非常深的CNN模型（多达52个卷积层），称为深度递归残差网络（DRRN），它致力于深入而简洁的网络。 具体而言，采用残差学习，以减轻培训深层网络的难度; 递归学习用于控制模型参数，同时增加深度。 广泛的基准评估表明，DRRN明显优于SISR的最新技术水平，同时利用更少的参数。 主要有两个新颖点： 在VDSR和DRCN中应用的只是从输入到输...
残差网络小结
a130098300的专栏
11-01 1934
在我看来，残差网络要解决的就是在训练极深网络时，出现的退化现在。产生这一现象的原因，主要是梯度问题导致。在文献【2】中，对于残差网络解决梯度传播的问题进行了深入地分析。 原始的kaiming的残差网络，使用了shortcut的方式进行跨层连接。文献[1]中设定的跨层个数是2~3个layer，1个layer并没有看出效果。当去掉跨层连接时，网络就退回成了plain network的形式。跨层连接形
MKL-DNN学习笔记 (二) 超分辨率推理模型的选择 - DRRN
sandmangu的专栏
10-10 978
一切不结合实践的理论文章都是耍流氓！！！ 所以这里学习MKL-DNN的最终目的是把mkldnn放到一个实际的超分辨率推理应用中去做加速。这里我选中了下面这篇文章的DRRN模型推理加速来做我这次学习的最终目的 纯C++超分辨率重建DRRN --改编 DRRN的网络架构如下（图片来自DRRN的论文， 地址 http://cvlab.cse.msu.edu/pdfs/Tai_Yang_Liu_CV...
纯C++超分辨率重建DRRN --改编--（一）数据结构
juebai123的博客
10-16 532
这里也是用caffemodel中导出的数据来使用，先来看一下 DRRN 中的结构构成： （1）基本单位，（2）残差块。 基本单位由： 1。归一化（BatchNorm），2。缩放和平移（Scale），3。Relu激励，4。卷积（Conv） 来组成 一个残差块由： 2个基本单位 组成（第一和第二） 全部由： 首单位 、9个残差块、尾单位 共 20 个单位组成（1 + 9 x 2 + 1）。 ...
纯C++超分辨率重建DRRN --改编--（四）使用libjpeg加载图像和矩阵乘法并行化(多线程)
juebai123的博客
10-21 572
由于DRRN运行太慢，用OpenMP加速最简单易行,只要加一句 #pragma omp parallel for 就可以了 但是vs2008提示缺少一个链接Lib ,而mingw32 可以运行该句，所以改成mingw32来编译 easyX则改成libjpeg来加载jpg图。 按照《截图并使用libjpeg库压缩BMP为JPG与将JPG转换为BMP》一文中的方法修改一下来使用 用bmp_da...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

一壶浊酒..

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值