什么是基追踪算法
基追踪(basis pursuit)算法是一种用来求解未知参量L1范数最小化的等式约束问题的算法。
基追踪是通常在信号处理中使用的一种对已知系数稀疏化的手段。将优化问题中的L0范数转化为L1范数的求解就是基追踪的基本思想。
比如我原先有一个优化问题:
min ||x||_0(就是L0范数的最小值)subject to y=Ax。
这个||x||_0,就是表示x中有多少个非零元素;那么我们要求min ||x||_0,就是想知道含有最多0元素的那个解x是什么。
但是呢,L0范数有非凸性,不怎么好求解,这时我们就转而求解L1范数的优化问题。
那么,基追踪算法就是转而求解
min||x||_1(就是L1范数的最小值)subject to||y-Ax||_2=0(2范数)
这个||x||_1,就是x的绝对值;那么我们要求min||x||_1,就是求绝对值最小的那个解x是什么。
更通俗一点来讲,比如我要求一个线性方程组
Ax=b
x就是我们要求的未知量。这个A矩阵不是个方阵,是个欠定矩阵,那么就导致这个线性方程组会有若干组解。那么我们到底要哪组解好呢?
如果在一般情况下,可以直接用最小二乘法来获得一组最小二乘解,就是x=(A‘A)^(-1)A’b。但是我们现在利用基追踪,就是想要来获得一组含0元素最多的解。
提出了一种新的基追踪求解算法。依据信号特性自适应地选取字典;通过l1范数的近似表示,将有约束的极值问题转化为无约束问题,并利用一种新的迭代算法进行快速求解;几类典型信号实验结果验证了本方法具有良好的去噪效果。 关键词:基追踪 字典 去噪 基追踪方法是信号稀疏表示领域的一种新方法。它寻求从完备的(过完备)函数(基)集合中得到信号的最稀疏的表示,即用尽可能少的基精确地表示原信号,从而获得信号的内在本质特性。基追踪方法采用表示系统的范数作为信号稀疏性的度量,通过最小化l1范数将信号稀疏表示问题定义为一类有约束的极值问题,进而转化为线性规划问题进行求解。 目前,基追踪方法在一维信号处理领域有很好的应用。
以David L.Donoho为代表的斯需求量福大学统计系工作组利用基追踪方法在一维实信号去噪和超分辨方面取得取了很多很好的应用结果。尽管使用了一种新的线性规划算法——内点算法,基追踪方法由于要在所有的字典向量中极小化一个全局目标函数