2018.4.22星期日
[1]Donahue J, Jia Y, Vinyals O, et al. DeCAF: A Deep ConvolutionalActivation Feature for Generic Visual Recognition[C].International Conferenceon Machine Learning, 2014.
1. 问题描述:
利用深度神经网络进行特征的提取和分类取得了很好的效果。在很多视觉会议的竞赛上,CNN(卷积神经网络)的方法效果都不错。一些“基准”的数据集例如:Caltech-101,办公室内区域数据集,Caltech-UCSD鸟类纹理识别数据集以及SUN-397场景识别数据集。在此之前,可以利用传统的特征提取法以及分类方法例如人工神经网络法或者SIFT特征等方法对上述数据集进行分别训练,然后识别。那么问题来了,在有限的数据集上,有监督的深度神经网络结构很容易造成过拟合,这应该怎么解决?
2. 模型:
本文研究的是,在大规模数据集上进行有监督的训练,提取出来的特征直接应用到其他的分类任务当中。就比如,在ImageNet数据集上训练CNN,得到了一个有参数的神经网络结构,把这个训练好的网络直接作为其他数据集的特征提取器,例如SUN-397数据集。实验证明,这个方法比把SUN-397直接作为训练集单独训练的方法性能更好。作者开发了DeCAF,这是一个深度神经网络的开源开发工具ÿ