Abstract:对于一个问题,单个数据集无法提供足够的数据时,需要使用多个数据集进行训练。此论文中使用了CNN从多个数据集中学习深层特征表示的方法。并且文中提出了Domain Guided Dropout算法用来代替Dropout,用来提高CNN的性能(去掉只有在一个数据集中起作用的神经元,而不是像Dropout算法一样将每个神经元的概率都设置为0.5)。
Introduction:在计算机视觉中,经常有一个任务需要使用不同的数据集来完成,而每个数据集存在很大的差异,本论文的思想为,将已有的数据集都混合到一起,设计一种CNN对混合数据域进行训练作为基本的模型,再使用Domain Guided Dropout来提高CNN的性能。
其中Domain Guided Dropout的基本思想是在一个数据域中的神经元可能对其他数据域没有作用,就将这样的神经元进行抑制。例如只有在i-LIDS数据集中有带行李的行人,那么捕捉行李特征的神经元在其他数据集中是没用的,则讲这个神经元进行抑制。
3、Method:
- 混合所有的domain在一起,通过设计的CNN使用单一的softmax loss进训练。
- 对每个域的所有样本进行前向传播计算每个神经元对目标函数的平均影响。
- 使用 Domain Guided Dropout代替Dropout对CNN继续训练。
- 如果想要获得某个特定领域的特征表示,可以使用CNN进行微调,再次使用Domain Guided Dropout进行提高性能。
整体的结构如下图:
3.1、Problem formulation:
- 总共有D个 domains,每个domains由 Mi个人的Ni张图片,{(x(j)i,y(j)i)Nij=1}Di=1为所有的训练样本,x(j)i表示第i个domain的第j个样本,y(j)i∈{1,2,…,Mi}
- 目标是学习通用特征提取器g(.),对同一个人的图像具有相似的输出,对不同人的图像具有不同的输出。
- 在测试阶段,比较probe与gallery,根据欧氏距离在特征空间中进行排序。
- 在训练阶段,有几种框架使用成对或三元组输入来学习特征嵌入。
3.2、Joint learning objective and th