Deep Learning Identity-Preserving Face Space

Deep Learning Identity-Preserving Face Space

Zhenyao Zhu, Ping Luo, Xiaogang Wang Xiaoou Tang

以后还是记录一下每次讲的paper【1】吧，今天是短文讲法，所以就没有ppt了，附上paper：DL_FIP ICCV13 ，另附iccv的Open Access

先吐槽一下不让人活的CUHK的XIAOOU TANG这个组吧，CVPR好几篇，这次ICCV搜他名字居然出来10篇，凶残地不给大家活路啊，膜拜！

这篇文章的主要思想是使用Deep Learning，用一个深度结构学习一个feature，在人脸识别时这个feature能克服不同光照和角度的影响，提高人脸识别的正确率。不仅如此，在学习到feature后作者还通过一个全链接得到一个正面，传统光照（canonical view，ID07）的重建图。使用这个图加上原先其他的算法能大幅提升正确率。

如上图a，左边为原图，右边是FIP，即作者提出的feature，b图中左边是原图，右边是重建图。可以看到，不同角度和光照下，FIP和重建图几乎一样。此图在文章一开始给出，看后不禁让人点赞！

接下来看看这个神秘的FIP是如何学出来的吧！

 

一种CNN的即视感就出来了有木有！

没错，作者设计的这个DL结构的前半部分就是个CNN，唯一的区别是Pooling的设计貌似采用了【2】中方法，具体还没看，应该跟ICA有关吧Q.V.Le还是google猫那篇作者吧，NG的高徒。

扯回来，前三层，每一层都是一个locally connected的卷积层+pooling，第三层没有pooling。然后第四层一个fully connected重建回一个96*96的图。其中激活函数使用了最近很火很好用的rectified linear function【3】。

作者表示咱们的“CNN”不好用平常那套unsupervised pre-train（作者说input output data的space不同），所以作者用的是least square dictionary learning（大神在【4】中用过，这篇前几天刚想膜拜一下呢！），然后fine-tune时候就比较正常了，用随机体度下降即可。以下是权值更新公式。

挺好理解的，第一项是动量，第二项是衰减项。

实验效果当然是不错的，虽然有时候比别人的差，但作者强调人家用了位置信息，而FIP和重建图无需提前知道位置信息，只要提供一张正面正常光照图和其他随机角度光照图就行了。另外用训练出的重建图能大幅提高已有的算法如LBP,LE等，这也是本文的亮点。

anyway，这篇文章理解不难，思路和解决问题的角度值得借鉴，手动点赞一个。

【1】Zhenyao Zhu, Ping Luo, Xiaogang Wang Xiaoou Tang. Deep Learning Identity-Preserving Face Space. In ICCV, 2013.

【2】Q. V. Le, J. Ngiam, Z. Chen, D. Chia, P. W. Koh, and A. Y. Ng. Tiled convolutional neural networks. In NIPS, 2010.

【3】V. Nair and G. E. Hinton. Rectified linear units improve restricted boltzmann machines. In Proc. 27th International Conference on Machine Learning, 2010.

【4】M. D. Zeiler, G. W. Taylor, and R. Fergus. Adaptive deconvolutional networks for mid and high level feature learning. In ICCV, 2011.

转载于：http://hdwu.net/archives/seminar_12_4.html#more-74