【压缩感知合集1】(背景知识)香农奈奎斯特采样定理的数学推导和图解分析
【压缩感知合集2】(背景知识)信号稀疏表示的数学推导和解释理解
【压缩感知合集3】压缩感知的背景与意义
【压缩感知合集4】(背景知识)理想采样信号和随机采样信号两种采样信号的频谱分析,以及采样效果比较
信号稀疏表示(信号的稀疏性或可压缩性)
信号稀疏与可压缩的数学定义(以一维信号为例)
信号都可以用正交基向量进行线性表示,假设这些基向量都是规范化后的正交向量。(使用基向量进行线性表示的时候是否规范化只是影响表示的系数。)
一维信号向量
X
=
[
x
1
,
x
2
,
⋯
,
x
n
]
∈
R
N
×
1
\boldsymbol{X} = [x_1,x_2,\cdots,x_n] \in \mathbb{R}^{N\times 1}
X=[x1,x2,⋯,xn]∈RN×1,可以用正交基向量线性表示公式如下。
X
=
∑
k
=
1
N
ψ
k
y
k
=
Ψ
Y
\boldsymbol{X}=\sum_{k=1}^{N} \boldsymbol{\psi}_{k} y_{k}=\boldsymbol{\Psi} \boldsymbol{Y}
X=k=1∑Nψkyk=ΨY
公式中
ψ k \boldsymbol{\psi}_{k} ψk为 Ψ \boldsymbol{\Psi} Ψ的第 k k k个列向量 ψ k ∈ R N × 1 \boldsymbol{\psi}_{k} \in \boldsymbol{R}^{N\times 1} ψk∈RN×1
Ψ \boldsymbol{\Psi} Ψ 为基矩阵 Ψ = [ ψ 1 ψ 2 ⋯ ψ n ] ∈ R N × N \boldsymbol{\Psi} = [\boldsymbol{\psi}_1 \boldsymbol{\psi}_2 \cdots \boldsymbol{\psi}_n] \in \boldsymbol{R}^{N\times N} Ψ=[ψ1ψ2⋯ψn]∈RN×N
Y \boldsymbol{Y} Y为投影系数 Y = [ y 1 , y 2 , ⋯ , y n ] ∈ R N × 1 \boldsymbol{Y} = [y_1,y_2,\cdots,y_n] \in \boldsymbol{R}^{N\times 1} Y=[y1,y2,⋯,yn]∈RN×1
在前面数学模型不变的情况下,我在三篇文章中看到的不同定义方式(但是其实说明的都是同一个问题):
-
若 Y \boldsymbol{Y} Y中只有 K ( K < < N ) K(K<<N) K(K<<N)个非零系数,也就相当于说可以仅仅被这 K K K个基向量线性表示,则称 X \boldsymbol{X} X在基矩阵 Ψ \boldsymbol{\Psi} Ψ下是 K K K稀疏的,信号可以被很少的大系数和很多小系数表示,则称信号是可压缩的。
-
若信号的变换系数经排序后按指数级衰减趋近于零, 则信号是可压缩的( 亦称近似稀疏)。
-
假设信号为稀疏的,那么对于 ∀ p , 0 < p < 2 , ∃ R > 0 \forall p, 0<p<2,\exists R>0 ∀p,0<p<2,∃R>0满足以下条件
∥ Y ∥ p ≡ ( ∑ i = 1 N ∣ y i ∣ p ) 1 / p ⩽ R \|\boldsymbol{Y}\|_{p} \equiv\left(\sum_{i=1}^{N}\left|y_{i}\right|^{p}\right)^{1 / p} \leqslant R ∥Y∥p≡(i=1∑N∣yi∣p)1/p⩽R
解释与理解
显然 X \boldsymbol{X} X和 A \boldsymbol{A} A是同一个信号的等价表示,其中 X \boldsymbol{X} X可以理解为是在时域或者空间域的表示, A \boldsymbol{A} A是在域上的表示。
传统压缩思路中压缩信号就是采用这种正交变换的方式,其编码解码的策略为:编码首先构造正交基矩阵 Ψ \boldsymbol{\Psi} Ψ,作变换 Y = Ψ T X \boldsymbol{Y}=\boldsymbol{\Psi} ^T\boldsymbol{X} Y=ΨTX,保留 Y \boldsymbol{Y} Y中最重要的 K K K个分量及其对应的位置。解码将 K K K个分量放回到其对应的位置,并将其他位置填 0 0 0,以此构造 Y ˇ \boldsymbol{\check{Y}} Yˇ,最后进行反变换 X ˇ = Ψ Y ˇ \boldsymbol{\check{X}}=\boldsymbol{\Psi} \boldsymbol{\check{Y}} Xˇ=ΨYˇ求得重构信号。