[深度学习论文笔记][CVPRW 16]Learning Discriminative Features with Class Encoder

[CVPRW 16]Learning Discriminative Features with Class Encoder

Hailin Shi, Xiangyu Zhu, Zhen Lei, Shengcai Liao, Stan Z. Li

from NLPR, CAS-IA

paper link

Intuition:

在使用softmax loss进行监督分类训练的同时，使用metric learning的辅助任务使网络学习到更加有区分度的特征。

Method:

框架图如下：

与一般的分类网络相比，该方法在全连接层有两条不同的数据通路：
1. 传统的分类训练。fc1 -> fc2 -> fc_output -> softmax loss
2. 将fc2视作fc1的编码器，在fc2后加一层解码器恢复出fc1的特征。fc1 -> fc2 -> fc_decode。

fc_decode得到的特征与其它同类数据的fc1特征作欧氏距离，并优化这个距离。相当于使用该特征作只有正样本的contrastive loss。

实验和可视化结果能够证明该方法的有效性，能够提升模型性能，使特征更加有区分度。

但是，如果不使用decoder的思想，而是直接在fc1之上直接使用contrastive loss，会不会是一种简化的等效模型？