《Visualizing and Understanding Convolutional Networks》明晰论文脉络
1 Why
文章介绍了虽然神经网络在许多图像识别领域都有很大的进步,但是模型为什么且怎么起作用,人们并不真正理解,模型的开发只能用试错的方式进行。
2 What
所以作者提出了用可视化的方式来揭示模型每一层特征对于输入的响应,从而理解卷积神经网络起作用的方式,并且能进一步根据可视化的结果对网络结构进行调整、改进模型,提高分类效果。本文使用的可视化方法是原文作者之前发表的deconvolution方法,在图片相关的领域经常会遇到这个算法,比如图片语义分割、图片去模糊、可视化、图片无监督学习、图片深度估计等等。但是本篇论文的重点在于可视化结果的分析,而不是可视化的方法。
3 How
整个可视化的过程可表示为下图,通过反卷积、反池化、反激活的方式来可视化,可视化的具体操作可参考以下2篇论文:《Deconvolutional Networks》
《Adaptive deconvolutional networks for mid and high level feature learning》
3.1 反池化过程
我们知道,池化是不可逆的过程,然而我们可以通过记录池化过程中,最大激活值得坐标位置。然后在反池化的时候,只把池化过程中最大激活值所在的位置坐标的值激活,其它的值置为0,当然这个过程只是一种近似,因为