人脸识别中的损失函数总结

损失名称	数学公式	是否权重归一化	是否特征归一化	距离空间	分类边界	文章链接
Cross Entropy Loss	$L=-\frac{1}{m}{\sum }_{i=1}^m\log \frac{e^{W_{y_i}^T{x}_i+b_{y_i}}}{{\sum }_{j=1}^n{e}^{W_j^T{x}_i+b_j}}$	否	否	欧式空间	$(W_1-W_2)x+b_1-b_2=0$	—
triplet loss	$\Vert f(x_i^a)-f(x_i^p){\Vert }_2^2+\alpha <\Vert f(x_i^a)-f(x_i^n){\Vert }_2^2$	否	否	欧式空间	–	facenet
center loss	$L=-\frac{1}{m}{\sum }_{i=1}^m\log \frac{e^{W_{y_i}^T{x}_i+b_{y_i}}}{{\sum }_{j=1}^n{e}^{W_j^T{x}_i+b_j}}+\frac{\lambda }{2}{\sum }_{i=1}^m\Vert x_i-c_{y_i}{\Vert }_2^2$	否	否	欧式空间	–	centerloss
coco loss	$L={\sum }_{i\in \beta }\frac{expC(f^{(i)},c_{l_i})}{{\sum }_{m\ne l_i}expC(f^{(i)},c_m)}$	否	是	欧式空间	–	cocoloss
L-softmax	$L_i=-\log (\frac{e^{\Vert W_{y_i}\Vert \Vert x_i\Vert \Phi ({\theta }_{y_i})}}{e^{\Vert W_{y_i}\Vert \Vert x_i\Vert \Phi ({\theta }_{y_i})}+{\sum }_{j\ne y_i}{e}^{\Vert W_{y_i}\Vert \Vert x_i\Vert \cos ({\theta }_j)}})$	否	否	角度空间	$\Vert W_1\Vert \Vert x\Vert \cos (m{\theta }_1)=\Vert W_2\Vert \Vert x\Vert \cos ({\theta }_2)$	L-Softmax
L2-softmax	$L=-\frac{1}{m}{\sum }_{i=1}^m\log \frac{e^{W_{y_i}^T{x}_i+b_{y_i}}}{{\sum }_{j=1}^n{e}^{W_j^T{x}_i+b_j}}$	否	是	欧式空间	$(W_1-W_2)x+b_1-b_2=0$	L2-softmax
A-softmax	$L_i=-\log (\frac{e^{\Vert x_i\Vert \cos (m{\theta }_{y_i},i)}}{e^{\Vert x_i\Vert \cos ({\theta }_{y_i},i)}+{\sum }_{j\ne y_i}{e}^{\Vert x_i\Vert \cos ({\theta }_j,i)}})$	是	否	角度空间	$\Vert x\Vert \cos (m{\theta }_1)=\Vert x\Vert \cos ({\theta }_2)$	A-Softmax
AM-softmax	$L_i=-\log (\frac{e^{s(\cos ({\theta }_{y_i})-m)}}{e^{{}^{s(\cos ({\theta }_{y_i})-m)}}+{\sum }_{j\ne y_i}{e}^{s\cos ({\theta }_j)}})$	是	是	余弦空间	$\cos ({\theta }_1)-m=\cos ({\theta }_2)$	AM-Softmax
cosFace	$L_i=-\log (\frac{e^{s(\cos ({\theta }_{y_i})-m)}}{e^{{}^{s(\cos ({\theta }_{y_i})-m)}}+{\sum }_{j\ne y_i}{e}^{s\cos ({\theta }_j)}})$	是	是	余弦空间	$\cos ({\theta }_1)-m=\cos ({\theta }_2)$	cosFace
ArcFace	$L_i=-\log (\frac{e^{s\cos ({\theta }_{y_i}+m)}}{e^{{}^{s\cos ({\theta }_{y_i}+m)}}+{\sum }_{j\ne y_i}{e}^{s\cos ({\theta }_j)}})$	是	是	角度空间	$\cos ({\theta }_1+m)=\cos ({\theta }_2)$	arcface