压缩感知（ISTA-Net论文）学习笔记

已于 2024-04-18 00:34:36 修改
阅读量423 收藏 6
点赞数 10
文章标签： 学习 笔记 深度学习 软阈值压缩 ISTA
于 2024-04-14 01:41:20 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/m0_68788727/article/details/137730533
版权

压缩感知（ISTA-Net论文）学习笔记

第一天，主要查找相关视频和笔记，补全预备知识

【nabla算子】与梯度、散度、旋度_哔哩哔哩_bilibili

近端梯度(Proximal Gradient)下降算法的过程以及理解|ISTA算法|LASSO问题_哔哩哔哩_bilibili

数学中常见的arg min，arg max是什么意思_统计学arg-CSDN博客

梯度算子

三角形符号倒过来（▽ ）是梯度算子（在空间各方向上的全微分），是微积分中的一个微分算子，叫Hamilton算子，用来表示梯度和散度，读作Nabla。

【论文精读】ISTA软阈值迭代压缩感知（凸优化部分） - 知乎 (zhihu.com)

【论文阅读笔记 2】ISTA-Net: Interpretable Optimization-Inspired Deep Network for Image Compressive Sensing - 知乎 (zhihu.com)

[重温经典]深度解读ISTA-Net - 知乎 (zhihu.com)

Lasso—原理及最优解 - 知乎 (zhihu.com)

【nabla算子】与梯度、散度、旋度_哔哩哔哩_bilibili

第二天 学习匹配追踪算法

匹配追踪算法
(1) 由于原信号的频率非零值在亚采样后的频域中依然保留较大的值，其中较大的两个可以通过设置阈值，检测出来（图a）。

(2) 然后，假设信号只存在这两个非零值（图b），则可以计算出由这两个非零值引起的干扰（图c）。

(3) 用a减去c，即可得到仅由蓝色非零值和由它导致的干扰值(图d），再设置阈值即可检测出它，得到最终复原频域（图e）

(4) 如果原信号频域中有更多的非零值，则可通过迭代将其一一解出。

以上就是压缩感知理论的核心思想——以比奈奎斯特采样频率要求的采样密度更稀疏的密度对信号进行随机亚采样，由于频谱是均匀泄露的，而不是整体延拓的，因此可以通过特别的追踪方法将原信号恢复。
参考文章：形象易懂讲解算法II——压缩感知

第三天 主要探究如何进行稀疏变换，学习了关于DWT,DCT相关知识

在这里插入图片描述
DWT学习参考视频
DCT学习参考视频
在这里插入图片描述
图片采自此文章 ——形象易懂讲解算法II——压缩感知
真理：
在这里插入图片描述图片采自此文章 ——形象易懂讲解算法II——压缩感知

[压缩感知测量矩阵之有限等距性质（Restricted Isometry Property, RIP）]
(https://blog.csdn.net/jbb0523/article/details/44565647)

压缩感知讲座06：对观测矩阵的探讨
压缩感知讲座02：对稀疏和稀疏矩阵的认识

系列讲解视频

第四天 研读知乎文章

对于向量组A，若存在一组不全为0的实数K，
使在这里插入图片描述
，则称向量组A是线性相关的，否则称它线性无关。

可以这样用一句话概括地描述什么是压缩感知：
如果一个信号在某个变换域是稀疏的，那么就可以用一个与变换基不相关的观测矩阵将变换所得高维信号投影到一个低维空间上，然后通过求解一个优化问题就可以从这些少量的投影中以高概率重构出原信号。
以下引用上文提及的知乎文章

在这里插入图片描述
今晚跑了相关代码~内容更新较慢，后续完成手头任务会重新整理文章，修改相关逻辑

第五天 研究ISTA以及LISTA和Proximal Gradient Algorithm，看论文原文

期间看了以下文章
深度学习：深度压缩感知-从ISTA到LISTA及其pytorch实现方法
近端梯度下降算法(Proximal Gradient Algorithm)
【简读】Hyperparameter Tuning is All You Need for LISTA
软阈值迭代算法（ISTA）和快速软阈值迭代算法（FISTA）

每晚11点后研读~

绿皮的猪猪侠
关注
  • 10
    点赞
  • 踩
  • 6
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
CVPR2018下载+CVPR2018论文百度云+2018CVPR论文下载+2018CVPR百度云
王博（Kings）的博客
06-25 4876
链接：https://pan.baidu.com/s/1QUXtDp5RQVNx-R55TkL13Q 提取码：
深度学习：深度压缩感知-从ISTA到LISTA.ipynb
07-21
【深度学习：深度压缩感知-从ISTA到LISTA及其pytorch实现方法】的完整源码，博客地址https://blog.csdn.net/qq_38290475/article/details/104684232。资源积分会自动上涨，欢迎私信或者评论，我会重新调整为0积分。
关于论文《ISTA-Net》的研究心得
qq_42201432的博客
03-29 6890
本文主要梳理了2018年CVPR的论文《ISTA-Net》的整体思路，将一些文中的比较跳跃的点表述得更清楚。水平有限，难免出错，恳请指正。
推荐项目：ISTA-Net - 图像压缩感知的深度网络
最新发布
gitblog_00013的博客
06-21 346
推荐项目：ISTA-Net - 图像压缩感知的深度网络 项目地址:https://gitcode.com/jianzhangcs/ISTA-Net 项目介绍 ISTA-Net，全称为迭代阈值化 shrinkage 算法启发式深网络，是一个由CVPR 2018年发表的研究成果。这个创新性项目结合了传统优化方法的洞察力和最新网络方法的速度，专注于自然图像的快速而精确的压缩感知（CS）重建。项目灵感来源...
ISTA_Net_tf2
03-28
ISTA_Net_tf2
ISTA-Net : Interpretable Optimization-Inspired Deep Network for Image Compressive Sensing
weixin_42245856的博客
03-12 3937
论文题目：ISTA-Net : Interpretable Optimization-Inspired Deep Network for Image Compressive Sensing 作者：Zhang, Jian and Ghanem, Bernard 书名：{CVPR} 年份：{2018} <Jian Zhang, Bernard Ghanem , “ISTA-Net: Interpretable Optimization-Inspired Deep Network for Image
ISTA算法-图像压缩感知算法之ISTA算法
jamin_liu_90的博客
05-16 9695
前导：主程序：clear all;h=imread('cameraman.bmp');h=im2double(h);[m,n]=size(h);%取图像中的64*64的图像块B=zeros(m/4,n/4);for i=1:m/4    for j=1:n/4        B(i,j)=h(m/8+i,n/8+j);    endend%得到随机矩阵Ak=round(0.6*m*n/16);A=...
软阈值迭代算法（ISTA）和快速软阈值迭代算法（FISTA）
Louis___Zhang的博客
12-15 1万+
缺月挂疏桐，漏断人初静。 谁见幽人独往来，缥缈孤鸿影。 惊起却回头，有恨无人省。 拣尽寒枝不肯栖，寂寞沙洲冷。---- 苏轼 更多精彩内容请关注微信公众号 “优化与算法” ISTA算法和FISTA算法是求解线性逆问题的经典方法，隶属于梯度类算法，也常用于压缩感知重构算法中，隶属于梯度类算法，这次将这2中算法原理做简单分析，并给出matlab仿真实验，通过实验结果来验证算法性能。 1. 引言 ...
IST：Iterative Shrinkage/Thresholding和Iterative Soft Thresholding
彬彬有礼的专栏
08-10 1万+
本篇是对压缩感知重构算法之迭代软阈值(IST)的延续，可能需要以下基础：软阈值(Soft Thresholding)函数和硬阈值(Hard Thresholding)函数。 前面我们在讨论迭代软阈值算法时提到，一般文献中出现的IST或ISTA简称中的“S”并非指的是“soft”，而是“shrinkage”，即“Iterative Shrinkage/ThresholdingAlgorithm”，那么IterativeSoft Thresholding和Iterative Shrinkage/
深度学习：深度压缩感知-从ISTA到LISTA及其pytorch实现方法
Ten_yn的博客
03-05 1万+
摘要：传统的压缩感知方法在重构时的速度通常比较慢。通过将深度学习和压缩感知结合，可以大大提高重构速度。Learned Iterative Shrinkage and Thresholding Algorithm (LISTA)应该是用深度学习方法求解压缩感知最早的方法，本文简单总结一下LISTA，并给出ISTA和LISTA的具体实现，分别使用Python和Pytorch，并对仿真的稀疏信号进行重构。
Optimization And Matlab 最优化的Matlab实现
03-15
比较经典的最优化使用教材 对数学的部分 处理的比较自然 主要算法均有matlab 实现 本压缩包内带有教材相关的程序 课件 和 分章节书籍 以及书籍的matlab 清洗影印版 是不可多得的自学、教学资料
Training_Data
08-03
Jian Zhang and Bernard Ghanem, "ISTA-Net: Interpretable Optimization-Inspired Deep Network for Image Compressive Sensing", CVPR 2018 论文训练数据集
近端梯度下降与软阈值迭代：PGD and ISTA
xiaotian13的博客
05-10 3354
近端梯度下降与软阈值迭代：PGD and ISTA 简介 对于包含不可微部分的优化目标如lasso回归的求解，梯度下降等算法已不再适用。近端梯度下降(Proximal Gradient Descent)即被用来解决包含不可导项的优化问题。 写在前面：由于CSDN使用的KaTEX不支持align环境QAQ，因此我没有找到方法在多行公式中分行标序号的方法。欢迎到我的博客去阅读： https://xiaotian13.github.io/。 回顾梯度下降 给定一个无约束优化问题形如 min⁡xf(x)(1) \
浅谈压缩感知（二）：理论基础
weixin_34148340的博客
11-20 927
主要内容： 信号的稀疏表示 编码测量（采样过程） 恢复算法（非线性） 一、信号与图像的稀疏表示 在DSP（数字信号处理）中，有个很重要的概念：变换域（某个线性空间：一组基函数支撑起来的空间） 一般而言，我们的信号都是在时域或空域中来表示，其实我们可以在其他变换域中通过某些正交基函数的线性组合来表示信号。如：sinusoids, wavelets, curvelets, ...
运行ISTA测试代码所遇问题
qq_56291837的博客
11-22 1886
问题1： from skimage.measure import compare_ssim as ssim 报错 解决：改为 from skimage.metrics import structural_similarity as ssim 问题2：FileNotFoundError:[Errno2]Nosuchfileordirectory:'././model/CS_ISTA_Net_plus_layer_9_group_1_ratio_1_lr_0.0001/net_pa...
压缩感知重构算法之迭代软阈值(IST)
热门推荐
彬彬有礼的专栏
08-09 4万+
题目：压缩感知重构算法之迭代软阈值(IST)         看懂本篇需要有以下两篇作为基础：(1)软阈值(Soft Thresholding)函数解读   (2)Majorization-Minimization优化框架。 彻底理解了迭代硬阈值IHT以后，很自然的会想到：如果将软阈值(Soft Thresholding)函数与Majorization-Minimization优化框架相结合形成迭代软阈值(Iterative Soft Thresholding，IST)算法（另一种常见简称为
压缩感知的阶段性总结
Reborn Lee
06-11 2669
压缩感知的阶段性总结 由于传统的信号处理框架，对信号的采样必须满足奈奎斯特速率，随着数据量的增大，这种框架下的信号处理会极大的加大ADC的压力，同时大量的数据冗余会使数据存储代价增大。为了弥补奈奎斯特框架的缺陷，各种其他方案出现，这就包括压缩感知框架下的信号处理方案。目前对压感的研究，信号的输入是离散的有限长的能稀疏表示的信号，或者信号本身就是稀疏的，这是在压感框架下处理信号的前提。压感的三个关键...
近端梯度下降算法 和迭代阈值收缩算法（ISTA）和 软阈值
zpnkwxp2011的博客
03-20 3257
近端梯度下降算法(Proximal Gradient Algorithm) https://blog.csdn.net/qq_38290475/article/details/81052206?depth_1-utm_source=distribute.pc_relevant.none-task&utm_source=distribute.pc_relevant.none-task ...
ISTA压缩感知python
04-10
ISTA（Iterative Shrinkage-Thresholding Algorithm）是一种用于压缩感知（Compressed Sensing）的迭代算法。它通过迭代地进行阈值收缩和稀疏表示更新，从而实现信号的稀疏恢复。 在Python中，可以使用NumPy等科学计算库来实现ISTA算法。以下是ISTA压缩感知的Python实现示例： ```python import numpy as np def ista(y, A, lmbda, max_iter): m, n = A.shape x = np.zeros(n) for _ in range(max_iter): x_old = x.copy() x = soft_thresholding(A.T @ (y - A @ x), lmbda) if np.linalg.norm(x - x_old) < 1e-6: break return x def soft_thresholding(x, lmbda): return np.sign(x) * np.maximum(np.abs(x) - lmbda, 0) # 示例用法 y = np.array([1, 2, 3]) # 观测信号 A = np.array([[1, 0, 2], [0, 3, 1]]) # 测量矩阵 lmbda = 0.1 # 正则化参数 max_iter = 100 # 最大迭代次数 x_recovered = ista(y, A, lmbda, max_iter) print("恢复的稀疏信号:", x_recovered) ``` 上述代码中，`y`表示观测信号，`A`表示测量矩阵，`lmbda`表示正则化参数，`max_iter`表示最大迭代次数。`ista`函数实现了ISTA算法的迭代过程，`soft_thresholding`函数实现了软阈值函数。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

绿皮的猪猪侠

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值