人脸识别：coco loss-Rethinking Feature Discrimination and Polymerization for Large-scale Recognition

       nips的一篇做分类和识别的工作，其中在人脸识别任务上也做了实验，Rethinking Feature Discrimination and Polymerization for Large-scale Recognition.Yu Liu, Hongyang Li, XiaogangWang。提出了一个新的损失函数：congenerous cosine，本质上就是一个cosine距离版本的triplet center loss。

       motivation：

       在做分类、识别任务的时候常见的loss就是softmax，pairwise，triplet以及最近新提出的center loss，基本的共识是既学习类内的信息又学习类间的信息是对识别效果最好的监督方式，所以softmax只有类间的监督是比较挫的一种loss，pairwise、triplet都是同时学习类内和类间信息的，但是都受到采样的问题导致训练容易不稳定。center loss作者认为其问题在于他的center是个统计意义值，不是每次迭代update的（这个地方有问题，center loss也是每个iteration在mini-batch里面更新的）。所以作者提出了一个coco loss，其实主要的特性在于：一是使用了cosine距离；二是用了center；三是把distance本身作为输入构建softmax loss，使得distance具有softmax特性。具体的loss对比如下图