【零散知识】字典学习（Dictionary Learning）

前言：

{

    之前的神经网络实践还卡在硬件上，不过目前已经打算先使用云设备，下次应该就会继续进行多目标识别的调试。这次就先写一点零散知识。

    在专利[1]中我遇到了新的观点——字典学习（Dictionary Learning）。

}

正文：

{

    资料[2]让我想起了之前学习的线性代数知识，当时学线性组成和线性相关时我也是想到了人对事物的理解（或者说我对事物的理解）：首先通过之前的经验形成一组基，之后通过这组基来线性组成（理解）新旧事物。我认为这和今天说的字典学习很像。

    回到正题，设X代表源数据，D代表字典，Z代表稀疏编码矩阵，即得图1。

   

图1

    可以看到，字典就像一个编码解码器一样，Z的数据量比X的小。

    字典的学习公式在[1]中如式1。

   

    可见此式即考虑了解码数据与原数据的距离，又考虑了生成的编码的大小。

    在[2]中，字典里的原子如图2。