稀疏表示入门笔记

稀疏表示

一、

1、先来考虑这么一个问题：有一个信号y，假设它是mx1维的，我们现在得到了n个这样的信号（设m<<n），也可理解为对这个信号采样n次，于是我们把这n个不同的信号从1到n依次排开，就得到了一个m行n列的矩阵，记为A吧。

2、然后呢，假设我们得到了一个新的y，也就是又重新采了一次样得到y，我们可以认为矩阵A里面的信号可以估计这个新的信号y，因为A就是由不同的采样信号y组成嘛，当然可以估计这个新的信号y啦。那么如何估计呢，我们不妨设这个新的信号y是矩阵A中各个信号的线性组合，不一定全部包含A中的每一列哈，可以理解为A中有太多的这样的信号啦，我们只去其中的一部分就可以足够来表示这个新信号y啦。

3、有了上面这些信息，我们可以表示为这样：给定一个mx1的向量y，和一个mxn的矩阵A，求一个nx1向量x，使得方程y=Ax。简单吧。

这个问题很简单的一个求法就是两边同时乘以A’（A的转置），然后移项（就是两边在同时乘以A’A的逆。于是得到方程的解x=(A^TA)^-1A^T。。（这个方法得到的是最小二乘解，应该是这么叫吧。。为什么是这样网上查一下吧）。

我们用这种放法得到解x当然是正确的。可是很有可能x向量中n个元素全是非0的。所以稀疏的问题就来了，我们能不能求一个x使它中的元素非零项的个数很少呢，比如过我要求里面只有n个里面只有5个非零项（这就是x的稀疏性为5）？就是我们想要得到A中最能表示新信号y的那几项，其他的都可以省略掉。为什么非要找最少的表示啊，多麻烦