【人脸识别Loss发展至2022年】

---

前言

人脸识别算法相对来说已经很成熟了，基于深度学习的FR可以分为两部分，一是特征提取，二是Loss，其中Loss是各FR算法改进的重点。
总的Loss进化路线是：类间→距离+中心→距离+角度
框架参考此处
归一化意义参考此处

一、Softmax Loss

Softmax Loss是分类中最常见的Loss，用于将同类的数据聚在一起，随着Loss的减小(括号内的值趋于1，log1=0)，调整参数W和b，现有的人脸Loss基本都是以Softmax Loss为base。虽然Softmax能正确分类，但没有考虑类间的距离。

二、Triplet Loss

其中Margin如下：

Triplet Loss需要确定Margin参数，Margin的作用用于实现约束，即：最大的类内距离 < 最小的类间距离这样就增大了类间距离，减小了类内距离。这个Loss比较老，但这种思路目前在很多方向上还是值得借鉴的。

三、Center Loss

Tatal Loss = L + 入Lc

Center Loss提出了每个类都有其类中心，将样本和类中心的距离也计算了Loss,这样就减小了类内距离，增大了类间距离，入参数控制类内的紧密型，入越大，类内就聚合得越紧密。

归一化后：
可见归一化后不同类的角度是不会重叠的。

四、L-softmax

L-softmax在softmax的基础上增加了角度约束，弥补了softmax不能缩小类内距离的缺陷：

把其中的cosθ改成cos(mθ)，因为cos(∞)趋于0，所以m越大，margin越大。

五、SphereFace(A-Softmax)

A-Softmax在 L-softmax的基础上将权重W做了归一化 ||W|| = 1，b = 0
A-Softmax实验证明了类别样本相对越多，模长越大，所以对权重W做归一化可以减小样本数量多少的影响。

归一化后：

五、CosFace(Additive Margin Softmax)

相比于A-Softmax，Additive Margin Softmax对特征也做了归一化，同时增加了Margin。

六、ArcFace(Addictive Augular Margin Loss)

相比于Additive Margin Softmax利用余弦距离，Addictive Augular Margin Loss直接利用了角度距离，其经典性导致目前后继者无出其右

后记

也有最近出来的将多分类变二分类再结合Triple Loss的SphereFace2等。目前做人脸Loss的创新大不如以前，后继者可以考虑做人脸热图像、血氧图等方面的创新。