什么是深度展开网络？如何将迭代算法的每一次迭代展开成深度网络对应的一层？深度展开网络进行端对端训练，其中端对端是什么意思？

khystal

已于 2024-10-18 18:14:06 修改

阅读量2.2k

点赞数 8

文章标签：算法

于 2024-10-18 18:10:58 首次发布

本文链接：https://blog.csdn.net/m0_67897882/article/details/143059678

版权

一、深度展开网络（Deep Unfolding Network）是一种结合了传统优化算法和深度学习的方法。它通过将迭代算法的每一步展开成深度网络的一层，形成一个端到端可训练的网络结构。这种方法旨在继承传统优化算法的可解释性，同时利用深度学习的强大的建模能力。

二、

ℱ 为迭代规则， Θ 为所有参数。这个迭代算法的每一次迭代视为一层网络，将原本固定的参数Θ 变为可学习的参数，并且在每层网络中使用不同的参数Θ 1 , Θ 2 , · · · ，这样就得到了深度展开网络。

三、

在深

最低0.47元/天解锁文章

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

khystal

关注关注

8
点赞
踩
12

收藏

觉得还不错? 一键收藏
1
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

CVPR 2024 | CPP-Net: 将多尺度特征融合引入深度展开CP-PPA网络用于压缩感知

小白学视觉

02-19

111

在压缩感知（CS）领域，深度展开网络（DUNs）因其良好的性能和基于CS领域的可解释性而受到关注，这些优势是通过将传统优化求解器与深度网络结合实现的。然而，现有的DUNs在捕捉图像细节方面表现不佳，导致重建图像在低CS比率（如0.10及以下）时出现明显的失真和模糊。本文中，作者提出了CPP-Net，一种受Chambolle和Pock近端点算法（CP-PPA）原始-对偶混合策略启发的新型深度展开CS框架。首先，作者通过引入定制的深度学习模块，推导出三个迭代子模块XkXkVkVk和YkY。

压缩感知重构算法的两步深度展开策略研究

fzq0625的博客

04-05

278

针对压缩感知中重构算法的深度展开问题，提出了一种两步深度展开策略(two-step deep unfolding，TwDU)。已有深度展开重构算法通常依赖前一步估计值估计当前值，TwDU对已有深度展开重构算法增加估计深度，依赖于前两步估计值估计当前展开值。TwDU对已有深度展开算法前两步估计值增加了两个训练权重。

1 条评论您还未登录，请先登录后发表或查看评论

基于深度展开神经网络的融合感知通信场景信道估计

罗伯特技术屋

11-24

1177

为了克服宽带毫米波系统中波束偏移给信道估计带来的挑战，文献[16]提出了一种基于深度学习的可学习迭代收缩阈值（LISTA, A Learnable Iterative Shrinkage Thresholding）信道估计器，该方法中神经网络的可训练参数较少，网络结构简单，存在信道估计准确率低的问题。文献[18]考虑MIMO雷达与蜂窝基站共存情况下的干扰信道估计问题，基站根据接收到的雷达干扰，确定雷达的工作模式是搜索还是跟踪，利用有限的雷达波形知识来估计干扰信道。在后面的实验中已知稀疏位置数量设为3。

CVPR2020：Deep Unfolding Network for Image Super-Resolution解读

hbw136的博客

02-19

6239

Title：Deep Unfolding Network for Image Super-Resolution(图像超分辨率的深度展开网络) Writers：Kai Zhang Luc Van Gool Radu Timofte Conference：cvpr2020 作者单位：Computer Vision Lab, ETH Zurich, Switzerland 代码链接：论文链接：问题动机：基于学习的单图像超分辨率(SISR)方法不断显示出优于传统的基于模型的方法的有效性和高效率，这在很大程度上

【123】

weixin_43690932的博客

12-27

2686

仅供自己参考

USRNet：Deep Unfolding Network for Image Super-Resolution

程序员深度学习

11-10

2572

1. 摘要相比传统方法，受益于端到端训练，基于学习的图像超分方法取得了越来越好的性能(无论是性能还是计算效率)。然而，不同于基于建模的方法可以在统一的MAP框架下处理不同尺度、模糊核以及噪声水平的图像超分，基于学习的图像超分缺乏上述灵活性。为解决上述问题，作者提出一种端到端可训练展开的网络，它集成了基于学习与基于建模的方法。通过half-quadratic splitting算法将MAP推理进展展开，通过固定次数的迭代求解数据子问题与先验子问题。上述两个子问题可以通过神经网络模块进行求解，从而得到.

USRNet:用于图像超分辨率的深度展开网络（CVPR，2020）（PyTorch）

05-02

，，瑞士苏黎世联邦理工学院 [ ] [ ] [ ] 经典SR退化模型假设下的近似双三次核 PSNR结果 USRNet的视觉结果 USRGAN的视觉结果双三次降解的结果去模糊的结果普遍性实像SR 引文经典SISR退化模型对于比例因子，SISR的传统（传统）降级模型假定为低分辨率（LR）图像是高分辨率（HR）图像的模糊，抽取和有噪点的版本。从数学上讲，它可以表示为在哪里表示的二维卷积具有模糊内核，表示标准倍向下采样器，即保持每个不同像素的左上像素修补并丢弃其他信号，通常假定n为加性高斯白噪声（AWGN），由标准偏差（或噪声水平）指定。通过明确的物理含义，它可以通过为基础的HR图像设置适当的模糊核，比例因子和噪声来近似各种LR图像。特别地，已经在基于模型的方法中进行了广泛的研究，该方法解决了MAP框架下的数据项和先前项的组合。特别值得注意的是

[有道翻译]Deep Unfolding Network for Image Super-Resolution部分翻译

Magic_o的博客

06-02

1349

摘要：基于学习的单图像超分辨率(SISR)方法不断显示出优于传统的基于模型的方法的有效性和效率，这主要归功于端到端训练。但是，与基于模型的方法在统一的MAP (maximum a posteriori)框架下处理不同尺度因子、模糊内核和噪声水平的SISR问题不同，基于学习的方法通常缺乏这种灵活性。为了解决这一问题，本文提出了一种端到端可训练展开网络，它利用了基于学习的方法和基于模型的方法。具体来说，通过半二次分裂算法展开映射推理，可以得到由交替求解一个数据子问题和一个先验子问题组成的固定迭代次数。这两个子

PyTorch深度学习实战（1）——神经网络与模型训练过程详解

盼小辉丶的博客

05-28

8万+

在本节中，我们将了解传统机器学习与人工神经网络间的差异，并了解如何在实现前向传播之前连接网络的各个层，以计算与网络当前权重对应的损失值；实现反向传播以优化权重达到最小化损失值的目标。并将实现网络的所有关键组成——前向传播、激活函数、损失函数、链式法则和梯度下降，从零开始构建并训练了一个简单的神经网络。

深度学习知识点全面总结

最新发布

AI天才研究院

05-23

2233

关键词：遗传算法，深度学习，神经网络，结构优化，超参数调整深度学习近年来取得了令人瞩目的成就，其在图像识别、自然语言处理、语音识别等领域展现出巨大的应用潜力。然而，深度学习模型的性能很大程度上取决于其结构和超参数的设置。手动设计神经网络结构需要大量的专业知识和经验，并且效率低下。为了解决这个问题，人们开始探索使用自动化方法来优化神经网络结构，而遗传算法作为一种经典的进化算法，为解决这一问题提供了新的思路。遗传算法（Genetic Algorithm，GA）是一种模拟自然选择和遗传机制的优化算法。它将问题的

Keras深度学习实战（1）——神经网络基础与模型训练过程详解

盼小辉丶的博客

04-10

6万+

神经网络是一种性能强大的学习算法，其灵感来自大脑的运作方式。类似于神经元在大脑中彼此连接的方式，神经网络获取输入后，通过某些函数在网络中进行传递输入信息，连接在其后的一些神经元会被激活，从而产生输出。本文主要介绍神经网络中重要的基础知识，然后使用 Python 从零开始构建神经网络的训练流程，包括前向传播和反向传播，更直观的了解神经网络的通用训练流程。............

【基于交叉注意力的泛锐化深度展开迭代网络】

weixin_43690932的博客

09-02

1052

仅供自己参考

【图像超分】论文精读：Deep Unfolding Network for Image Super-Resolution（USRNet/USRGAN）

05-02

1284

基于学习的单图像超分辨率 (SISR) 方法与传统的基于模型的方法相比不断显示出卓越的有效性和效率，这主要是由于端到端训练。然而，与基于模型的方法不同，后者可以在统一的MAP(最大后验)框架下处理不同尺度因子、模糊核和噪声级别的SISR问题，基于学习的方法通常缺乏这种灵活性。为了解决这个问题，本文提出了一种端到端的可训练展开网络，该网络同时利用基于学习的方法和基于模型的方法。具体来说，通过半二次分裂算法展开MAP推理，可以得到固定数量的迭代，包括交替求解数据子问题和先验子问题。然后可以用神经模块解决这两个子

CVPR2020:Deep Unfolding Network for Image Super-Resolution 论文阅读笔记

weixin_42412712的博客

07-07

4583

Deep Unfolding Network for Image Super-ResolutionAbstract1. Introduction2. Related work合理的创建标题，有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能，丰富你的文章UML 图表FLowchart流程图导出与导入导出导入 Abstract

2020CVPR超分系列二Deep Unfolding Network for Image SR+Meta-Transfer Learning ZSSR+Res FeatureAggregation

eight_Jessen的博客

09-29

1412

1、Deep Unfolding Network for Image Super-Resolution 代码传送门 1.1 总结作者认为： learning-base方法目前展现出相比传统model-base方法更好的结果。然而model-base方法可以解决的超分中一些问题，比如不同的缩放因子，模糊核，噪声水平。所以作者提出了一个利用了model-base和learning-base两者优势的网络。通过半二次分裂算法，可以得到由交替求解一个数据子问题和先验子问题组成的固定迭代次数，这部分可以由神经网

Deep Unfolding Network for Image Super-Resolution 论文阅读

lcxyplucky的博客

09-12

599

Deep Unfolding Network for Image Super-Resolution 论文阅读超分问题是低级视觉领域中的经典的病态问题基于模型的方法可以通过统一的最后后验框架来解决不同种类的病态问题，具有灵活性基于学习的方法训练速度快，但是缺乏一定的灵活性。本文提出了一种端到端的可训练的网络模型，将两者结合起来。根据贝叶斯最大后验，退化公式可以得到该能量函数：使用半二次分裂方法HQS，将上述式子分解为数据项和正则项，数据项保证解符合退化过程，而正则化项强制输出的期望属性。引

deep plug-and-play 和 deep unfolding

10-18

Deep plug-and-play和Deep unfolding都是深度学习模型中的技术。 Deep plug-and-play是一种先进的深度学习方法，它结合了插播和卷积神经网络。传统的深度学习方法需要大量的数据进行训练，但Deep plug-and-play可以在训练过程中使用预先训练的网络权重，从而更加高效地训练模型。它通过在网络的不同层次上插入预训练的权重，来提高模型的性能。 Deep unfolding是一种将迭代算法推广到深度学习中的方法。在传统的深度学习中，模型通过层层计算来获得输出结果。然而，对于某些任务，迭代算法可能更适用。Deep unfolding将迭代算法应用到深度学习模型中，使用多个循环来逐步迭代计算模型的输出。这种方法可以提高模型的性能和精度，特别适用于图像处理、语音识别等领域。无论是Deep plug-and-play还是Deep unfolding，它们都是深度学习领域中的创新技术，可以有效地提高模型的性能和精度。通过利用预训练的权重或者将迭代算法应用到深度学习模型中，它们为深度学习研究者和工程师提供了更多的工具和方法，来解决现实世界中的复杂问题。