压缩感知之最优化研究现状

原文链接：http://blog.sciencenet.cn/blog-497160-388963.html

Nyquist属于 local采样方式，其对应的信号重建算法是线性的； CS采用global的非自适应测量方式，从而大大减少数据采集量，然而其付出的代价是信号的重建算法的软件成本。因此，CS的最优化算法好坏直接影响到CS理论能否实用。

    区别于Nyquist理论的线性感知问题，CS理论的信号复原需要求解一个非线性优化问题。统计理论和组合优化理论告诉我们：通过选择合适的测量方式和重建算法，仅需要K+1次测量就可将N维空间的K-稀疏信号精确重建。众所周知：组合优化是一个NP问题，当N很大时，数值上无法有效实现，且抗噪声能力很差；然而，K+1测量是CS追求的目标。Candes, Tao和Donoho等人已证明，当测量矩阵满足RIP条件时，组合优化问题(或称，l₀约束优化问题)转化为l₁约束的凸优化问题，数值上容易处理的优化问题。目前已有的CS重建算法可以分为三类，第一类贪婪算法（Y. C. Pati ,  G. Davis, S. Mallat and Z. Zhang等人提出）（注意：贪婪算法是针对组合优化提出，为讨论方便，将且与凸优化问题列在一起），目前已发展了多种变形，例如，OMP, OOMP, CosMP，等。该类重建算法速度快(计算复杂性是O(N*K^2)), 然而需要的测量数据多(O(K*logN))且精度低。第二类方法是凸优化算法，代表性方法为LASSO, l1-Maggic， GPSR，等。该类算法速度慢(计算复杂性为N^3)，然而需要的测量数据少(O(K*log(N/K)),且精度高。第三类方法是以Sparse Bayesian为代表的统计优化算法，该类方法位于前两者之间。另外，值得强调的是目前的CS理论均架设信号的稀疏度K是已知的，然而在许多情况下，K并不已知，那么建立动态的测量方式和相应的重建算法也是今后关键的问题。

综上所述：CS重建算法的目的是配合CS测量矩阵尽可能减少测量数据。因此所设计的最优化算法需要满足如下条件：

(a)需要最少的采集数据

(b)计算速度快

(c)普适

(d)能够解决大尺度问题