【论文阅读笔记】Learning Compact and Discriminative Stacked Autoencoder

Learning Compact and Discriminative Stacked Autoencoder for Hyperspectral Image Classification

作者：Peicheng Zhou , Junwei Han , Senior Member, IEEE, Gong Cheng , and Baochang Zhang

IEEE TGRS 2019

作者指出，目前深度学习在遥感领域得到了广泛的应用，但是还存在很多问题。本文主要解决了以下两个问题：
1、如何在已经存在的深度模型上学习一个低维特征空间，使得属于同一类别的像素距离更近，不同类别的像素距离更远；
2、如何在不降低高光谱图像分类精度的前提下，降低模型的复杂度，即在特征表示能力和特征维度之间取得一个平衡。
为了解决上述问题，作者提出了compact and discriminative stacked autoencoder (CDSAE)这样一个框架用于高光谱图像分类。
该框架分为两个学习阶段，分别针对不同的目标进行逐步优化:第一个阶段用于学习低维特征映射空间(特征提取器训练)，将学习到的参数用于初始化第二个阶段，而第二个阶段用于HSI分类器与特征提取器的联合训练，得到分类结果。

该框架有三个亮点：
1、同时使用光谱和空间特征作为输入。首先，提取高光谱数据的光谱特征，然后进行PCA降维，取5*5的patch作为空间特征，与光谱特征拼接到一起，得到特征向量。
2、使用 local Fisher discriminant regularization项，得到低维特征空间。
其思想是:投影，使多维问题转化为低维问题来进行处理。选择一个适当的投影轴，使所用的样本点都投影到这个轴上得到投影值，使得同一类样本所形成的投影值的距离尽量的小，而不同类之间的投影值距离尽可能大。
主要方法是计算两个散度矩阵，最大化类间散度矩阵，最小化类内散度矩阵。
3、使用diversity regularization项，降低模型的复杂程度。

其中，i表示当前的自编码器，M表示总的自编码器个数。