为满足笔者自身的需求,遂写了这篇博客,目的是总结一下对压缩感知的理解,记录有关压缩感知的理论知识!
1.符号说明
为方便后续内容的说明,本篇博客中所说的信号均为一维信号!
2.理论内容
2.1 压缩感知
压缩感知(Compressed Sensing,CS)指出只要信号是可压缩的或在某个变换域是稀疏的,那么就可以用一个与变换基不相关的观测矩阵将变换所得高维信号投影到一个低维空间上,然后通过求解一个优化问题就可以从这些少量的投影中以高概率重构出原信号。它包含两个特性,即不相关性和欠定性,压缩感知的压缩和重构正是靠这两个性质实现的。
2.2 名词介绍
在这一部分,需要明确几个名词的概念(顺序同符号说明表中符号顺序):
原始信号:顾名思义,就是需要被处理的信号,可以是一维或二维信号;
稀疏信号:即原始信号投影后确定稀疏的信号。如何判断一个信号是否是稀疏信号,最简单的方法是验证该信号在某个变换域中是否只有极少个非零元素。比如,若长度为 N 的一维信号 x 中只有 K(K<<N) 个非零的元素,则称信号 x 是 K-稀疏 的;
稀疏基:又称正交基、稀疏矩阵,其主要作用是确保原始信号投影到某个域中的信号是稀疏的;
观测矩阵:又称测量矩阵,控制采样得到的目标信号在采样过程中即被压缩,同时保证目标信号所含有效信息不丢失,能够由压缩采样值还原出目标信号;
感知矩阵:又称传感矩阵、恢复矩阵,该矩阵其实是 稀疏基 与 观测矩阵 的乘积;
观测值:又称观测信号,它是通过观测矩阵获得的值,其包含了信号中的有效信息,且数据量比原信号数据量小。
2.3 压缩感知过程
压缩感知的压缩重构过程,可以用下图表示
2.4 压缩感知问题
在具体应用时,肯定会面临 CS 中的三大关键问题:
1)目标信号的稀疏表示。信号的稀疏表示是将信号投影到正交变换基时,绝大多数的变换稀疏的绝对值很小,所得到的变换向量是稀疏的或者是近似稀疏的。寻找使得目标信号变换到目标域上尽可能稀疏的稀疏基,即信号稀疏表示问题。
对于目标信号的稀疏表示问题,常见的稀疏基有离散余弦变换基(DCT)和快速傅立叶变换基(FFT)等。
2)观测矩阵的构建。观测矩阵是 CS 理论采样的实现部分。通过观测矩阵控制的采样使得目标信号在采样过程中即被压缩,同时保证目标信号所含有效信息不丢失,能够由压缩采样值还原出目标信号。
为了保证能够准确重构,观测矩阵与稀疏基矩阵的乘积要满足约束等距准则(Restricted Isometry Property, RIP)性质,即要求从观测矩阵中抽取的每M个列向量构成的矩阵是非奇异的。RIP性质的等价条件是测量矩阵Φ和稀疏基Ψ不相关。
对于观测矩阵,常见的有高斯随机矩阵、部分哈达玛矩阵等。
3)重构算法的设计。重构算法是从采样值求解最优化问题寻找到目标信号最优解。重构算法的准确性、高效性和稳定性是其设计的关键。
而现如今常用的重构算法有三类:
a. 贪婪追踪算法:这类方法是通过每次迭代时选择一个局部最优解来逐步逼近原始信号.这些算法包括匹配追踪(MP)、正交匹配追踪(OMP)算法、分段OMP算法(StOMP)和正则化OMP(ROMP)算法
b. 凸松弛法:这类方法通过将非凸问题转化为凸问题求解找到信号的逼近‚如BP算法、‚内点法、梯度投影方法和迭代阈值法
c. 组合算法:这类方法要求信号的采样支持通过分组测试快速重建‚如傅立叶采样、链式追踪和HHS(HeavgHittersonSteroids)追踪等.
对于重构算法,常见的有L1范数、正交匹配追踪算法(OMP)等。
对于CS理论、重构算法的实现等,可点击查看大佬所发布的一些博客内容,这位大佬是真的强~
本篇博客就写到这吧,后续有时间继续补充,因为其中有些内容是当时看的一些文献摘抄的,写的很好,不想去再画蛇添足,所以 侵权删~