[行人重识别论文]Debiased Batch Normalization via Gaussian Process for Generalizable Person Re-Identificatio

摘要：可泛化的行人重识别旨在学习一个只有几个已标记源域的模型，该模型可以在未见到的域上表现良好。在无法访问未见域的情况下，从有限个源域中学习到的批量归一化( BN )层的特征统计量无疑是对未见域有偏的。这会误导对未见域的特征表示学习，恶化模型的泛化能力。在本文中，我们提出了一种新的基于高斯过程的去偏批量归一化方法( GDNorm )用于可泛化的行人重识别，该方法将BN层的特征统计估计建模为一个动态自精炼的高斯过程，以减轻对未见域的偏见，从而提高泛化能力。具体来说，我们建立了一个具有多组特定领域BN层的轻量级模型，以捕获单个源域的判别性，并学习特定领域BN层的相应参数。这些不同源域的参数被用来推导高斯过程。我们从这个高斯过程中随机采样几条路径作为现有源域之外潜在新域的BN估计，这可以进一步优化从源域中学习到的参数，并通过它们反过来估计更准确的高斯过程，从而趋向于真实的数据分布。即使在没有大量源域的情况下，GDNorm仍然可以利用高斯过程的均值路径提供去偏的BN估计，同时在测试过程中保持较低的计算成本。大量实验表明，我们的GDNorm有效地提高了模型在未见域上的泛化能力。

Figure1：提出了GDNorm的总体架构。它包含一个轻量级模型，包含多组特定领域的BN层，用于捕获特定的特征统计信息；以及一个动态自精炼的高斯过程估计，用于学习未知领域的无偏BN参数。

具体来说，我们提出了一种新的基于高斯过程的去偏批量归一化方法( Debiased Batch Normalization by Gaussian Process Approach，GDNorm )，用于泛化行人重识别，如图1所示。GDNorm在流行的ResNet - 50模型( He et al.2016)的基础上，建立了具有不同领域特定BN层集合的轻量级模型P ( Y | X , Pxy)。每个源领域的期望特定领域模型除了从特定领域BN层学习参数θ ds外，还共享轻量级模型的所有训练参数。GDNorm利用这些参数作为领域特定模型的分布，P ( Y | X = x , P ds xy)，它遵循高斯过程。然后从该高斯过程中随机采样路径(结构域特异性BN层的参数)，以获得训练源域之外潜在新域的BN估计。采样路径可以反过来通过端到端优化使高斯过程接近(去偏)超分布的分布。在测试阶段，与以往基于集成学习的方法不同，GDNorm直接使用学习到的去偏高斯过程的均值路径作为未知目标域上的最优批归一化层参数进行模型推断，而不需要额外的计算成本。

在训练阶段给定一定规模的源域ds的行人图像，特定领域的BN层通过将其一阶矩( μds、σ 2ds)和二阶矩( 0、1 )匹配到具有零均值和单位方差N ( 0、1 )的参考高斯分布来对激活进行归一化。然后使用重新调整参数对通道白化激活进行转换。BN层的配方定义如下：

Debias Gaussian Process(去偏高斯过程): 特定领域BN层的学习参数θ ds包含了相应领域ds的特定特征统计信息。因此，参数θ ds的分布可以表示为论域上的超分布H。我们假设模型中参数θ ds的分布服从高斯过程(模型中沿不同深度位置BN层的高斯分布的集合) GDNorm从特定域BN层的学习参数θ ds推导出一个动态高斯过程来拟合超分布H。为了减少高斯过程与超分布之间的偏差，GDNorm设计了一种自求精机制，从估计的高斯过程中随机抽取若干条路径作为源域外潜在新域的BN估计，可以进一步优化这些参数，并由这些参数反过来推断更精确的高斯过程，从而趋向于真实的超分布。为了简单起见，我们将BN操作转化为如下的线性变换：

实验结果：

总结：本文提出了一种新的基于高斯过程的去偏批量归一化方法( Debiased Batch Normalization by Gaussian Process approach，GDNorm )，用于可泛化的行人重识别。GDNorm将特定领域BN层的特征统计量估计(参数)建模为一个动态自细化的高斯过程，以拟合领域的真实超分布，从而提高对未知目标领域的泛化能力。它利用自精炼机制进一步优化源域特定BN层的学习参数，并通过它们来估计更精确的高斯过程，从而趋向于真实的数据分布。此外，GDNorm直接利用高斯过程的均值路径作为未知目标域的最优BN估计，与集成学习相比不需要额外的计算成本。大量的实验表明，本文提出的GDNorm在多个标准数据集上达到了当前最好的性能。

本文内容来自于论文：Debiased Batch Normalization via Gaussian Process for Generalizable Person Re-Identification