压缩感知基本原理

传统的信息获取和处理过程

传统的信息获取和处理过程主要包括采样、压缩、传输和解压缩四个部分。采样过程必须满足奈奎斯特采样定理。

采样定理：在进行模拟/数字信号的转换过程中，当采样频率fs.max大于信号中最高频率fmax的2倍时(fs.max>=2fmax)，采样之后的数字信号完整地保留了原始信号中的信息。

当信号频率很高时，由于采样定理的限制，要保存原始信号的信息，势必会耗费很大的存储空间。

压缩感知

Candés和Donoho在相关研究基础上于2006年正式提出了压缩感知的概念. 其核心思想是将压缩与采样合并进行,首先采集信号的非自适应线性投影(测量值),然后根据相应重构算法由测量值重构原始信号. 压缩传感的优点在于信号的投影测量数据量远远小于传统采样方法所获的数据量, 突破了香农采样定理的瓶颈,使得高分辨率信号的采集成为可能.

假设一幅图像包含10万个像素点，完整地表示它需要10万维的向量。但是如果经过小波变换，并且图像不包含过多的噪声和纹理，可能只需要1千个小波系数就能表示。这是某种图像压缩算法的基本思想，例如JPEG2000.

一个K稀疏的信号x只有K个自由度，重建x只需要K个左右的测量值，这就是CS的哲学思想：测量值个数应与压缩大小同数量级，而不是未压缩时的大小。

--------------------------------------------------------------------------------------------------------------

稀疏表示

信号经过某种线性变换能稀疏表示是压缩感知的一个先验条件。当一个信号只有少数元素非零，则可称该信号是稀疏的（可压缩）。K-稀疏信号指信号至多有K个元素非零。

一般信号是非稀疏的，这就需要线性变换。

其中：f是原始信号，x是稀疏信号。

注意：满足稀疏这一条件，是为了信号重构

--------------------------------------------------------------------------------------------------------------------------------------------------

测量矩阵

y=Ax

其中，C是测量矩阵，M*N维，M<<N,N是原始信号的维度，经过测量矩阵线性投影后，得到的测量值y维度仅为M。

测量矩阵需要满足约束等距性（RIP），可以通过选择一个大小为M*N的高斯测量矩阵得到, 高斯测量矩阵的优点在于它几乎与任意稀疏信号都不相关, 因而所需的测量次数最小. 但缺点是矩阵元素所需存储空间很大, 并且由于其非结构化的本质导致其计算复杂。

将原始信号f与测量矩阵相乘得到测量值（测量过程跟稀疏性无关）

信号重构

考虑模型：y=Ax

由M维的测量值y重构出N维的稀疏信号x，由于M<<N，此类问题是under-determined的，可能会得到无数个满足条件的解（特解+基础解系）。

但如果满足条件：

(1)y的维数，即测量次数=cK*log(N)

(2)A满足RIP条件

信号x可以由测量值y通过L0范数最优化精确重构

然而一般的信号都是非稀疏的，这就需要通过某种变换得到信号的稀疏表示，即：

f=T*x

其中，x是原始信号f在T变换域下的稀疏表示，则：

y=Cf=C*Tx=CT*x=Ax            （A=CT 可称为感知矩阵）

则信号重构：

具体重构方法不赘述

得到重构的后，通过变换基T重构出原始信号。