稀疏学习与压缩感知

1. 稀疏表示与字典学习

当样本数据为稀疏矩阵时，对学习任务有不少好处：

• 可以使许多问题变得线性可分
• 使存储更为高效

稀疏矩阵：矩阵的 每一行/列都包含大量的零元素， 且这些零元素没有出现在同一行/列中。（非零元素远小于零元素）

字典学习：侧重于为普通稠密表达的样本找到一个合适的矩阵

稀疏表示：将样本转化为合适的稀释表示形式，从而使学习任务变得简单

• 变量交替优化策略

2. 压缩感知

压缩感知在前些年也是风风火火，与特征选择、稀疏表示不同的是：通过欠采样信息来恢复全部信息。在实际问题中，为了方便传输和存储，我们一般将数字信息进行压缩，这样就有可能损失部分信息，如何根据已有的信息来重构出全部信号，这便是压缩感知的来历，压缩感知的前提是已知的信息具有稀疏表示。

通过已知的欠采样信息求出稀疏样本表示，然后通过稀疏基求得原信号。

压缩感知分为“感知测量”和“重构恢复”两部分：

• 感知测量：关注如何对原始信号进行处理以获得稀疏样本表示
• 重构恢复：关注的是如何基于稀疏性从少量观测样本中恢复原信号

>> 矩阵补全的方法