ECCV A Discriminative Feature Learning Approach for Deep Face Recognition

A Discriminative Feature Learning Approach  for Deep Face Recognition

主要思想:

  是一种metric learning的思想，本文提出在原有的网络结构上加入center loss，仅改变原有的损失层，使得网络容易训练和优化网络。本文同时使用softmax loss and center loss两种监督信号，把softmax loss看作是可训练的Separable Features，Center loss可看做能够训练出Discriminative Features. Center loss使得类内聚合，类间松散。

实例：

   通过使用在MNIST数据上验证Center loss的作用，在FC上使用2个神经元，使得特征可视化。在LeNets上进行修改，修改的具体参数为

损失函数：

  softmax loss function 

  Center loss

表示类yi的类中心。

问题：在这个公式中，可以看出，要将所有的训练样本导入网络中，才能确定样本类中心。

解决：1、在每次更新计算样本中心时使用mini-batch 2、为了避免由于少量样本的错误标签导致样本中心的扰乱，使用标量a来控制center的学习率。

改变后：

训练算法

实验结果分析：

2维可视化（MNIST数据集）

仅使用softmax loss function

加入 center loss后

通过两个图对边可以看出