Compressed sensing(压缩感知系列)

压缩感知(一)

压缩感知理论的三个部分

• 一、信号的稀疏表示
  信号的稀疏表示分为两类
  一类是基于表示式的稀疏表示：比如小波基，DCT基等
  一类是基于冗余字典或者超完备字典的稀疏表示
  这里主要讲overcomplete dictionary 的学习
  Dictionary learning 的两个过程
  -Sparse Coding
  -Dictionary Update

  Sparse Coding 是固定字典D,然后找稀疏表示X。
  Formulation
  

  $$\underset{X}{min} ||X||_{0} \quad s.t ||Y-DX||_{F}^{2}\leq \epsilon$$
  主要有三种类别求解稀疏表示
  第一种贪婪法（Greedy）:OMP正交匹配追踪算法，SP子空间追踪,CoSaMp压缩信号匹配追踪等。
  第二种L1近似（L1-approach）:将X的L0 relax to L1进行求解，转换成一个凸优化问题。
  $$\underset{X}{min} ||X||_{1} \quad s.t ||Y-DX||_{F}^{2}\leq \epsilon$$ 也等价于 $$\underset{X}{min} \frac{1}{2}||Y-DX||_{F}^{2}+\lambda ||X||_{1}\leq \epsilon$$
  第三种贝叶斯近似（Bayesian-approach）
  Relevance vector machine (RVM) 和 Bayesian compressed sensing (BCS)。（略）