稀疏编码

在讲稀疏编码之前，我们首先来了解一下稀疏表示的概念。

1.稀疏表示：

 问题：给定一组基向量：，其中 ，。

对于任意一个p 维的向量X：

（i）（最小二乘问题）

（ii）s 是稀疏的，s的大部分元素为0

2.形式化：

       在这之前我们先来了解一下0范数与1范数的定义：

        向量的0 范数只的是 向量的非零元的个数

       向量的 1范数指的是向量元素的绝对值的和

      1范数的缺点是在0 点不可微

      目标函数：

      

2.稀疏编码：

   稀疏表示是一直原子库的条件下，求系数的表示

  稀疏编码是给定比如很多图片，我们要求一个最优的原子库和最优的稀疏表示。

  问题：