稀疏求解：匹配追踪MP和正交匹配追踪OMP

 

在希尔伯特空间，信号可以由这个空间的表征正交基线性表示，正交基稀疏表达一个信号也有很多缺点，因为一组基表达信号的能力取决于信号的特征是否与基向量的特征相吻合；例如，光滑连续信号可以被傅里叶基稀疏的表达，但脉冲信号就不行；再如，带有孤立不连续点的平滑信号可以被小波基稀疏表达，但小波基在表达傅里叶频谱中有窄带高频支撑的信号时却是无效的。现实世界中的信号经常包含有用单一基所不能表达的特征，对于这些信号，你或许希望可以选择来自不同基的向量（如用小波基和傅里叶基来联合表达一个信号）。因为你想保证你可以表达一个信号空间的所有信号向量，所以由所有可选向量组成的字典应该能够张成这个信号空间。然而由于这组字典中的向量来自不同的基，它们可能不是线性独立的。由于这组字典中的向量不是线性独立的，会造成用这组字典做信号表达时系数不唯一。然而如果创建一组冗余字典，你就可以把你的信号展开在一组可以适应各种时频或时间-尺度特性的向量上。这样构造的字典可以极大地增加你稀疏表达各种特性信号的能力。

通过构建字典D，继而求解信号在这个空间的稀疏表征，可以用来进行去等去噪，超分辨，信号复原（压缩感知）等操作，稀疏求解模型构建如下：

0范数约束并非是凸问题，无法通过凸优化获得最优解。经典的方式是匹配追踪MP和正交匹配追踪OMP。

1.匹配追踪MP

资料较多此处不赘述，每一次迭代时，寻找残差与当前字典中最为匹配(内积绝对值最大)的原子。引用他人的博客如下：

从向量分解的角度，k次残差到k+1次残差进行了向量的三角分解，且依赖与第k+1残差正交。假设当前

                                                                           

R项在每次三角分解时，最为匹配的原子可能是之前已经选中的原子࿰