【论文解读】DLDLv2: LearningExpectation of Label Distribution for Facial Age and Attractiveness Estimation

1. 介绍

论文地址：https://arxiv.org/pdf/2007.01771v1.pdf

代码：gaobb/DLDL-v2

上篇DLDL文章的改进：DLDL

针对问题：年龄估计、面部吸引力估计

（1）数据标记困难，导致很难收集到一个完全和充分标记的数据集；

（2）不同标签组的图像数量非常不平衡，不同数据集的分布也有很大的不同。

（3）与其他面部特征（如性别或表情）相比，年龄/吸引力估计是一项非常精细的识别任务，例如，当一个人从25岁到26岁时，我们人类几乎感觉不到他/她面部特征的变化。

传统典型方法：

（1）分类方法

        由于年龄估计任务的输出是一个整数，比如0-99岁年龄范围，显然他可以看做一个100分类问题，0-99正好看做100个类。虽然分类的方法是最直接清晰的思路，但是年龄本身有连续性，而分类问题忽略了这种天然的内在联系，因为常规的分类任务，类别间是完全独立的，比如猫狗分类。举个例子：

        我们一般用softmax+交叉熵做分类任务的损失，假如有三个类别，分别是猫、狗、鸟，它们分别对应的one-hot编码是[1 0 0]、[ 0 1 0]、[0 0 1]，当前对一张实际类别是猫的图片进行预测，假设预测结果P1为[0.2 0.6 0.2]，P2为[0.2 0.2 0.6]，显然这两次预测结果都是错误，并根据交叉熵计算损失是一样大的，在猫、狗、鸟的三分类问题中，这样来计算损失是合理的。

        但是假如我们把这个三分类分别对应0岁，1岁和2岁，这样计算损失就不再合理，因为1岁要比2岁，更加接近于0岁，而1岁和2岁产生的损失却一样大，这就是分类问题应用到年龄估计中的弊端，softmax仅仅强调了类间差异的最大化，却忽略了年龄问题本身的连续性。

（2）回归方法

        由于年龄的连续性，年龄估计也可以看做回归问题，但是回归处理假设人的衰老是一个“静态”过程，即不同年龄的人的衰老变化规律一致。

（3）RankingCNN方法

        参考Using Ranking-CNN for Age Estimation，年龄估计过程可以看成是对大量人脸有效信息对进行比较的过程，也就是通过若干组二值分类结果就可以得到相应的年龄估计值，通过寻找当前年龄标签在年龄序列中的相对位置来确定最终的年龄值，从而有效克服了传统的年龄估计方法忽略了人类面部衰老过程中的动态性、模糊性以及个性化的特点。这样定义年龄估计有两个好处：

• 在实际生活中，我们去判断一个人的年龄大于还是小于另一个年龄，要比直接去估计这个年龄更容易，这符合人的主观认知；

• Ordinal的思想不同于直接分类，利用了年龄本身连续性的特点。

主要贡献：

• 分析了RankingCNN与DLDL（标签分布）的关系，证明了RankingCNN就是在隐式的学习DLDL，并将CNN统一到了DLDL；

• 提出了一种端到端的学习框架，在特征学习和分类器学习中，利用相邻标签间的相关信息联合学习标签分布，回归单个标签的基本真值；

• 设计了一个轻量级的网络体系结构，减少了参数量，加快了推理速度，提高了精度。

2. 方法

        提出的方法很简单，但能解决问题，主要是将分类问题中学习单值标签转换为学习标签分布，同时为了测试与训练评价标准的一致性，添加了一个回归期望来拟合更好的结果。

        首先是标签分布的学习，将定值标签转换为以该值为均值的正态分布，然后用KL散度学习该分布：

        因为测试的输入是一个年龄的确定值，为了保证评价标准的一致性，将网络学习得到的标签分布求期望转换为定值，L1loss进行拟合：

        同时文章还证明了在年龄估计和面部吸引力估计中表现比较好的两类方法：DLDL和ranking之间的关系：

        图a是标签的正态分布概率密度函数，b是它的和函数，图c是1-b的结果，从c中可以看到，当方差接近于0时，标签的正态分布和曲线近乎拟合ranking的标签。

3. 实验

3.1 年龄估计

3.2 面部吸引力（颜值）估计