人脸识别损失函数总结

已于 2023-06-30 16:23:30 修改
阅读量1.5k 收藏 7
点赞数 4
分类专栏： 人脸识别 文章标签： 人工智能 深度学习 人脸识别
于 2023-06-30 13:22:54 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_38964360/article/details/131470673
版权

1、Softmax Loss

公式

特点

Softmax鼓励不同类别的特征分开，但没有对特征分离的距离进行限制

2、L-Softmax Loss

公式

特点

  1. 增加margin角度参数m，压缩类内角度范围，实现类内紧凑，增加类间决策边界间隔
  2. 参数m压缩了cos函数角度的单调区间，导致优化困难

3、A-Softmax(SphereFace) Loss

公式

特点

归一化了权重W，使得||W||=1，让训练更加集中在优化深度特征映射和特征向量的角度上，降低样本数量不均衡的影响（ID数量越大，权重W的二范数也越大，W.shape=[embedding_size, cls_nums]）

4、AM-Softmax(CosFace) Loss

公式

特点

  1. embedding特征x的二范数与图像质量相关，质量越好，x的模长越大，因此增加了特征归一化，使得||x||=1，让训练更加集中在优化特征向量的角度上，使得到的深度人脸特征更加分离
  2. 特征归一化后，特征向量都固定映射到半径为1的超球面上，压缩了特征表达空间，不利于模型收敛，因此引入缩放因子s，扩大特征表达空间，有利于模型收敛
  3. 把乘性margin改成加性margin

5、ArcFace Loss

公式

特点

在AM-Softmax的基础上修改，margin从余弦空间改到角度空间，直接在角度空间中最大化分类界限，而CosFace则是在余弦空间中最大化分类界限

6、MagFace Loss

公式

特点

把margin从常数项m改成了与特征模长（模长越大，图片越清洗，人脸上有更多的细节信息）相关的函数并额外引入了一个基于模长的惩罚项，对不同质量的图像施加的惩罚也不一样（较大的模长会有较大的角度惩罚，较小的模长会有较大的模长惩罚）

7、AdaFace Loss

人脸识别AdaFace学习笔记_Cassiel_cx的博客-CSDN博客

公式

特点

  1. 论文讲解了缩放参数s和margin参数m在不同取值时是如何影响模型训练并给出自适应参数调节函数
  2. 重点挖掘和加强：质量较高的图像中的困难样本、质量较低的图像中的简单样本，同时减轻对质量较低的图像中的困难样本的关注（如果让模型去关注质量较低的图像中的困难样本，模型很可能学习到如衣服颜色等非人脸特征信息）

【参考文献】

人脸识别的LOSS（上） - 知乎

人脸识别的LOSS（下） - 知乎

人脸识别Loss总结【最全思维导图】 - 知乎

人脸识别loss总结 - 知乎

chen_znn
关注
  • 4
    点赞
  • 踩
  • 7
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
专栏目录
人脸识别-损失函数：概述【Softmax loss→Center Loss→L-Softmax Loss→SphereFace→CosFace→ArcFace】
u013250861的博客
08-18 602
L=−j=1∑T​yj​log(Sj​)=−N1​i∑​log(∑j​ewjT​xi​ewyi​T​xi​​)LSj​Sjjyj​j1Ty1×TT11T−10110样本3真实类别为c1​，c5​loss3​=−∑yi,c​⋅log(pi,c​)​=−[y3,1​⋅log(p3,1​)+
CVPR2022-人脸识别：adaface一种基于质量的自适应损失函数
最新发布
01-04
基于图像质量的可识别性的差异，通过使用特征范数作为图像质量的代理和基于特征范数自适应地改变边缘函数来控制分配给不同质量的图像的梯度尺度来解决这个问题。本文评估了所提出的自适应损失对各种质量的数据集的...
基于自适应角度损失函数的深度人脸识别算法研究
04-30
角度空间损失函数往往因需要手动调节超参数而引起算法训练的不稳定，类别标签数量的不同也将导致算法的移植性较差。针对这些问题，提出一种带有下界判断的自适应角度空间损失函数并应用于人脸识别。该方法以假设人脸表达特征分布在超球体空间为切入点，通过分析不同超参数对训练结果的影响，使预测概率公式的二阶导数为零并动态地计算当前mini-batch角度分布的去尾平均数； 为了提高算法的可移植性，根据类别中心的最小期望后验概率给出自适应调节超参数的下界。通过在LFW和MegaFace百万级人脸数据集上进行算法评估，证明提出的方法可以有效地提高人脸识别精度以及模型收敛率，在亚洲人脸数据集上的实验证明该方法具有较好的鲁棒性与移植性。
人脸识别：史上最详细人脸识别adaface讲解-模型训练与测试--第二节
xingjh1的博客
09-02 3584
上一章节，我们谈到了如何下载资源和制作训练的数据集，我相信大家处理后的结果和我下面的一样（如下图），这个图像有500w+张，我就不打开这个文件夹给大家看了，好了，我们现在开始我们的模型训练了，模型能正常打通训练，才能做别的东西，如果你训练都训不起来，那谈什么修改网络啥的呢，对吧~
【人脸识别】人脸识别损失函数学习笔记
chen1234520nnn的博客
07-24 1754
目录 二、CosFace(CVPR2018) 1 softmax loss的不同变种 1.1 原始的softmax loss： 1.2 归一化softmax Loss(NSL,Normalization Softmax Loss) 1.3 CosFace Loss(LNCL,Large Margin Cosine Loss) 2. 不同loss的分类边界分析 2.1 Softmax Loss： 2.2 NSL：Normalized Softmax Loss： 2.3 A-Softmax（S
人脸识别损失函数之Center Loss
Toocy7的博客
05-28 2330
人脸识别首先是一个分类问题，人脸识别的步骤是：先对人脸进行检测，然后对特征进行提取，再进行特征对比。
人脸识别-损失函数改进方法之L-softmax loss center-loss A-softmax loss focal loss
weixin_NineDays66
05-29 6985
                                       而ArcFac中的loss与其他loss不同之处在于下图：  与CosFace的解释相同，只是ArcFace相比CosFace的不同体现在度量的维度上面。论文中还做了其他很多的贡献，具体的请详见论文。   1、Large Marge Softmax Loss  ICML2016提出的Large Mar...
人脸识别损失函数
tj1027128330的博客
06-03 3119
一、人脸识别 人脸识别：基于脸部特征信息进行身份识别的一种生物识别技术。 人脸识别属于分类问题，每个人的脸都是一个类别，而他/她的所有图片都是这个类的样本。 如下图： 胡歌的脸为一个类别，所有图片为这个类别的样本。 刘亦菲的脸为另一个类别。 人脸识别的步骤： 1，人脸检测：使用MTCNN等目标检测算法，检测到图片中是否存在人脸，若存在人脸则检测出人脸的位置区域，然后框出。 如图： 2，特征提取：将检测到的人脸框输入到特征提取网络中进行特征提取，返回的是一些特征数据。 如图...
史上最详细人脸识别（adaface）--总目录（后续会更新全部）
xingjh1的博客
08-27 1781
史上最详细人脸识别（adaface）--总目录（后续会更新全部）
人脸识别的损失函数解读
周红伟讲AI
05-28 1330
最近在研究自编码器提取特征做分类和生成、重建。所以细致了解人脸识别的各种损失函数！ 文章目录 1、概要 2、Softmax Loss 3、Center Loss 4、A-Softmax Loss 5、L-Softmax Loss 6、CosFace Loss 7、AM-Softmax 8、ArcFace/Insight Face 9、小结一下 10、参考链接 1、概要 人脸识别：输入一张图片，进行人脸检测，再提取关键点进行人脸对齐矫正，最后提取人脸特征，进行判别这个人是谁。判别这个人是谁，本质上是分类问题
《AdaFace: Quality Adaptive Margin for Face Recognition》用于人脸识别的图像质量自适应边缘损失
syf的博客
07-12 2593
方法简介： （1）介绍了损失函数中自适应性的另一个方面，即图像质量。 （2）强调误分类样本的策略应根据其图像质量进行调整。 （3）提出了一种新的损失函数，该函数根据图像质量强调不同困难的样本。主要工作： （1）提出了一种损失函数AdaFace，该函数根据样本的图像质量对样本的不同困难赋予不同的重要性。通过结合图像质量，避免了强调无法识别的图像，而集中在难以识别的样本上。（2）表明角度边界根据训练样本的难度来缩放学习梯度。这一观察促使自适应地改变边界函数，以在图像质量较高时强调硬样本，而如果
人脸识别中的损失函数.pdf
09-23
人脸识别中的损失函数.pdf
基于ArcFace损失函数的监护安全人脸识别.pdf
09-23
基于ArcFace损失函数的监护安全人脸识别.pdf
基于STM32的人脸识别
04-26
本论文以OPENCV库为基础，采用QT作为图形界面开发，具有人脸采集，图片训练，数据库管理及人脸识别等功能。该系统能够进行长时间的运行并测试稳定，在程序中提供了统一的接口以并进行二次开发。 人脸检测与识别是...
softmax函数_人脸识别损失函数(Center-Loss、A-Softmax、AM-Softmax、ArcFace)
weixin_39589241的博客
12-05 743
最近在研究自编码器提取特征做分类和生成、重建。所以细致了解人脸识别的各种损失函数！1、概要人脸识别：输入一张图片，进行人脸检测，再提取关键点进行人脸对齐矫正，最后提取人脸特征，进行判别这个人是谁。判别这个人是谁，本质上是分类问题。既然牵涉到分类，分类的目的就是不同类的类间间距够大，同一类的类内距离足够小。那么我们一步一步介绍人脸识别中常用的损失函数。2、Softmax Loss ：将特征图扁平化...
【深度学习】人脸识别的Loss
聊北辰同学的博客
07-16 804
人脸识别 4个关键步骤 人脸检测 人脸对齐 人脸编码，特征提取 人脸匹配 这里重点关注特征提取部分，为得到更优的特征而设计的不同的损失函数！ 何为更好的特征？损失函数又是如何影响模型输出的特征的呢？ Softmax 这一切就先从耳熟能详的softmax说起。 分类模型可以看作表征模型和分类器组成，表征模型输出特征向量，分类器基于输入的特征完成特征到类别的映射。但是类别较多的情况下，我们通常不这么做，特征提取+相似度匹配作为一种更加高效的方法被广泛使用，人脸识别就是其中一个典型的例子。 下面进入正题，开始
浅谈人脸识别中的loss 损失函数
热门推荐
liguiyuan的博客
04-17 1万+
在人脸识别中，算法的提高主要体现在损失函数的设计上，损失函数会对整个网络的优化有着导向性的作用。我们看到许多常用的损失函数，从传统的softmax loss到cosface, arcface 都有这一定的提高，这篇文章自己就来整理下这几个算法。 无论是SphereFace、CosineFace还是ArcFace的损失函数，都是基于Softmax loss来进行修改的。 Base l...
人脸识别中的margin损失函数
05-10 1296
用于人脸识别的损失函数，有Softmax，Contrastive Loss，Triplet Loss，Center Loss，Norm Face，Large-Margin Loss，A-Softmax Loss，InsightFace等等，这篇文章简单聊聊近年的margin损失函数。 margin损失函数： Large-margin Softmax(L-Softmax) Sphereface(A-Softmax) Additive Margin Softmax(AM-Softmax) CosFac
『人脸识别系列教程』2·机器学习经典损失函数
简明AI工作室
11-16 460
原文出处：https://zhuanlan.zhihu.com/FaceRec 0-1损失（二分类）、交叉熵损失（分类）、Softmax Loss（多分类）、合页损失（SVM）、均方差（线性回归）、Modified Huber Loss（分类）、指数损失（Adaboost） 1 0-1 Loss 一般来说，二分类机器学习模型包含两个部分：线性输出一般是s = wx；非线性输出比如...
tf.keras cnn多层人脸识别
07-23
### 回答1： tf.keras是由TensorFlow提供的一个高级神经网络API，其中包含了对卷积神经网络（CNN）的支持。多层人脸识别是指通过构建深度的卷积神经网络来进行人脸识别的任务。 在使用tf.keras进行多层人脸识别时，首先需要搜集大量的人脸图像数据作为训练集。这些数据应包含不同人的照片，并尽可能涵盖不同的姿态、光照条件、表情等变化。 接下来，可以通过构建一个多层的CNN模型来训练人脸识别器。模型的第一层通常是卷积层，用于提取图像特征。随后可以添加多个卷积层和池化层，逐渐增加网络的深度和复杂度。在这些层中，可以使用不同的卷积核大小和步长来捕捉图像中的不同特征。 在网络的最后一层，可以添加全连接层和Softmax激活函数，用于输出每个类别的概率分布。这样就可以通过比较不同类别的概率来确定人脸的身份。 训练时，可以使用优化算法（如Adam）和损失函数（如交叉熵损失）来对模型进行训练。同时，可以使用数据增强技术（如随机裁剪、翻转等）来扩大数据集并改善模型的泛化能力。 当模型训练完成后，可以使用训练好的权重参数对新的人脸图像进行预测和识别。通过将输入图像传递给模型并获得输出概率分布，可以根据最高概率的类别来确定人脸的身份。 总结来说，通过使用tf.keras构建多层的卷积神经网络，可以实现对人脸进行准确的识别和分类。这需要充分准备的数据集、合适的模型结构、适当的优化算法和损失函数，并通过训练来不断优化模型的性能。 ### 回答2： tf.keras是TensorFlow的高级API，用于构建和训练深度学习模型，而CNN是卷积神经网络的缩写，是广泛用于图像识别任务的一种深度学习模型。 多层人脸识别是指使用多层的卷积神经网络来进行人脸识别任务。这种方法的优点是可以逐层学习到更加抽象和高级的特征，从而提高人脸识别的准确性。 在使用tf.keras进行多层人脸识别时，可以通过搭建多个卷积层来构建多层的卷积神经网络模型。首先，可以使用一些卷积层和池化层来提取人脸图像的低级特征，如边缘、纹理等。然后，逐渐增加卷积层的数量和深度，以提取更加高级的人脸特征，如眼睛、鼻子、嘴巴等。最后，可以使用全连接层和Softmax层来进行人脸的分类。 在训练过程中，需要大量的带有标签的人脸图像数据进行模型的训练。可以使用一些常用的数据增强技术，如随机裁剪、旋转和翻转等来增加训练数据的多样性，从而提高模型的泛化能力。 同时，为了避免模型过拟合，可以使用一些正则化技术，如Dropout层和L2正则化等。此外，可以使用一些优化算法，如随机梯度下降（SGD）或Adam等来进行模型的优化。 通过上述步骤，可以搭建一个基于tf.keras的多层卷积神经网络用于人脸识别任务，并通过训练和优化来提高准确性和泛化能力。 ### 回答3： tf.keras是TensorFlow中的高级深度学习API，它为我们提供了一种简单而方便的方式来构建和训练神经网络模型。对于人脸识别任务，我们可以使用tf.keras中的卷积神经网络（CNN）模型。 对于多层人脸识别，我们可以使用多个卷积层和池化层来提取图像的特征，并通过全连接层和输出层来进行分类。 首先，我们需要准备数据集，包括带有标签的人脸图像。然后，我们可以使用tf.keras的ImageDataGenerator类来进行数据增强和预处理。 接下来，我们可以定义一个包含多个卷积层和池化层的CNN模型。每个卷积层通常包括一个卷积核和一个激活函数，用于提取图像的局部特征。池化层用于减小特征图的大小，并保留最重要的特征。 在模型的顶部，我们可以添加一个或多个全连接层，用于将提取的特征映射到类别标签。最后一层的激活函数通常使用softmax函数，用于多分类问题的输出。 在模型定义和编译之后，我们可以使用tf.keras的fit()函数来训练模型。我们可以指定训练的迭代次数、批次大小和优化器等参数。在训练过程中，模型将通过反向传播来更新权重和偏置，以最小化损失函数。 在训练完成后，我们可以使用模型的evaluate()函数评估模型在测试集上的性能。我们可以计算分类准确率、损失函数值等指标。 总结起来，利用tf.keras的CNN多层人脸识别包括数据准备、模型定义、训练和评估等步骤。通过构建深度学习模型，我们可以实现准确和高效的人脸识别功能。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

chen_znn

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值