Learning a Similarity Metric Discriminatively, with Application to Face Verification 论文笔记

0 摘要

       我们提出了一种从数据中学习相似性度量的方法。该方法可以用于人脸识别或人脸验证的应用中。在这些应用中，类别的数量非常大且在训练期间并不知道，并且每个类别的训练样本的数量非常小。这个想法是学习一个能够将输入特征映射到一个目标空间的函数，在这个目标空间中用一个L1范数来度量输入空间的“距离”。通过最小化loss函数以实现相似性度量。对于同一个人的两张图像，度量值较小；对于不同人的两张图像，度量值较大。实现从原始到目标空间的映射是一个卷积网络，其体系结构设计具备几何失真的鲁棒性。该系统在Purdue / AR人脸数据库上进行测试，该人脸数据库在姿势，照明，表情，位置和人造遮挡方面具有非常高的可变性。

1 引言

        传统的分类使用区分的方法，例如神经网络或支持向量机，通常要求事先知道所有类别。 他们还要求为所有类别提供训练的样本。 这些方法本质上仅限于少量的类别（大约100个）。这些方法不适用于类别数量非常大的应用，在这些应用中，每个类别的样本数量很少，并且在训练时只有一部分类别是已知的。 这样的应用比如人脸识别和人脸验证：类别的数量可以在几百或几千，每类只有几个训练样本。这类问题的一种常见方法是基于距离的方法，包括计算要分类或验证的模式与输入之间的相似性度量。另一种常见方法是在维度较低的空间中使用无差别（生成）的概率方法，其中可以在不使用其他类别的样本的情况下训练一个类别的模型。 为了将区分性的学习方法应用于人脸识别或人脸验证，我们必须设计一种方法，这个方法不需要使用类别的具体信息，而是从已有的数据中提取出问题的关键特征。
        本文提出的解决方案是从已有的数据中学习相似性度量。 这个相似性度量可以用于匹配先前未见过类别的新样本（例如：训练期间未见过的人的面孔）。 我们提出了一种用于训练相似性度量的新型判别式训练方法。 该方法可以应用于类别数量非常大的分类问题。
        主要思想是找到一个函数，将输入特征映射到目标空间，在这个目标空间中用欧式距离来度量输入空间的“距离”。更精确地说，给定一个函数$G_W(X)$，$W$是这个函数的参数。我们通过搜索查找一个最佳的参数$W$，使得相似性度量：
$E_W(X_1,X_2)=||G_W(X_1)-G_W(X_2)||$，当$X_1 和X_2$属于同一个类别的时候，度量值很小；当$X_1 和X_2$属于不同个类别的时候，度量值很大。
        模型使用来自训练集的输入对进行训练，当$X_1 和X_2$属于同一个类别的时候，最小化$E_W(X_1,X_2)$；当