K-SVD算法学习

1：稀疏表示：
考虑线性等式，或者是线性逼近。$X=Da$,这里的D是$M*P$ 的矩阵。称为字典（字典学习中），测量矩阵（压缩感知中），权重矩阵（多任务学习中），其中$M<<P$。$D$ 中的每一列称为原子。其模型为

$$min ||a||_0$$

$$s.t.X=Da$$ 等价于 $$min 1/2||X-Da||_2^2+\lambda||a||_0$$ 当然其中 $||a||_0$ 可以用其最优凸近似 ||a|