Ordinal Regression with Multiple Output CNN for Age Estimation-（系列一_年龄估计）

Ordinal Regression with Multiple Output CNN for Age Estimation

研究动机

一方面，大多数多类分类问题，都假设类标签是相互独立的。然而，由于年龄标签是一个有序集合，因此具有很强的序数关系，这在这些多类别分类方法中没有得到利用。
另一方面，度量回归方法又将年龄标签视为数值，利用这些顺序信息进行年龄估计。本文认为，根据人的年龄，人的脸以不同的方式成熟。就是文中提到的年龄变化的非平稳性。
再者，过去由于手工特征的适应性，文中使用CNN进行端到端来进行年龄估计，这样可以从面部图像中自动学习更好的特征。
最后，本文作者提出了AFAD数据集，旨在解决缺乏大规模的年龄数据集在年龄估计研究进展的障碍。

方法介绍

参数设定

假设，第 $i$ 张图像，输入空间$x_i\in \mathcal{X}$，输出空间$y_i\in \mathcal{Y}$，$\mathcal{Y}=r_1,r_2,\dots \dots ,r_K$，且$r$有序且$r_K\succ r_{K-1}\succ \dots \dots r_1\succ$，$\succ$表示不同级别之间的排序。
采用cost矩阵$\mathcal{C}$来计算预测秩与ground-truth秩之间的差值。文中$\mathcal{C}$是一个$K\times K$矩阵，${\mathcal{C}}_{y,r}$表示例子$(x,y)$且秩为$r$。且定义绝对cost矩阵定义${\mathcal{C}}_{y,r}=\left|y-r\right|$。

方法介绍

1. 训练数据 D = { x i , y i } i = 1 N D=\{x_i,y_i\}^N_{i=1} D={xi​,yi​}i=1N​，对于第k个二分类子问题的一个特定训练数据设为 D = { x i , y i k , w i k } i = 1 N D=\{x_i,y^k_i,w^k_i\}^N_{i=1} D={xi​,yik​,wik​}i=1N​，其中 y i k ∈ { 0 , 1 } y^k_i\in \{0,1\} yik​∈{0,1}定义为二进制类标签$y_i$与$r_k$之间的关系，如下式：
   
   $w_i^k$是第$i$个图像的权值
   
2. 文中采用了绝对cost矩阵，所以$\forall (i,k),w_i^k=1$。文中用CNN训练$K-1$个二元分类器。作者在文中使用了一个多输出结构，每个输出对应一个二值分类器。
   
3. 对于未知样本$x^{\prime }$预测如下：
   
   $f_k(x^{\prime })$是第k个二值分类器对于样本$x^{\prime }$的训练结果。

多输出CNN结构框架

本文网络有3个卷积、3个局部相应normanzation，和2个最大池化层，然后是一个有80个神经元组成的全连接层组成。

该网络的输入部分，是将大小为$60\times 60\times 3$的对齐后的人脸图像输入网络。本文使用的是彩色图像。
在第一个卷积层，有20个大小为$5\times 5\times 3$卷积核，步长为1。经过局部相应normalization和最大池化操作，得到了大小为$28\times 28\times 20$的特征映射。
第二个卷积层，有40个大小为$7\times 7$卷积核，步长为1。经过同样操作的到$11\times 11\times 40$。
第三个卷积层，有80个大小为$11\times 11$卷积核，步长为1。经过同样操作的到$1\times 1\times 80$。
最后，该网络分支出$K-1$个输出层，每个输出层包含2个神经元，对应于一个二进制分类任务。第k个任务是预测第i个面部图像的年龄是否大于秩$r_k$。对于每个人物，采用softmax归一化交叉熵损失函数。

数据集

AFAD数据集
本文收集了一个包含164432张标签良好的照片的数据集。其中女性照片63680张，男性照片100752张，年龄在15岁到40岁之间。不同年龄的照片计数分布如图5所示。部分样品如图4所示。

实验

评估方法

MAE(Mean Absolute Error)：
$MAE=\frac{{\sum }_{i=1}^n|y_i-x_i|}{n}$
CS(Cumulative Score)：

实验结果

从表1可以看出，在两个数据集上，$‘BIFs+LSVR’$比$‘BIFs+CCA’$取得了更好的性能。

总结

以现在的眼光来看，该论文使用的方法比较简陋，他提出了利用端到端深度学习方法来解决有序回归问题。现在有更好的深度学习方法，而且文中有序回归方法是一系列二值分类方法，其他分类方法也可以加入考虑方案中。