0.前言
对于卷积网络的可视化,我们使用的主要手段就是反卷积,通过反卷积,我们可以
- Understanding:对于网络中任意神经元的最优化激活的可视化
- Inverting:将分类层之前的code重建出图像
- Fun: deep dream & neutral Style
- Confusion and Chaos: adversarial examples
1、可视化最大激活神经元的一些pathces
例如在这个AlexNet的pool5层任选一个神经元,然后喂给它大量的图片,看哪种图片最能激活该神经元
比如上面两行代表使神经元激活值最大的一些图片,白框是感受野,数值即为激活值,第一个神经元似乎对人很敏感,下面那个对dots或狗狗比较敏感
2. 对weights的观察
我们还可以对卷积第一层的raw filters 进行可视化,可以看到一些gabor like filters(Gabor函数是一个用于边缘提取的线性滤波器)
但是只有在第一层卷积层才能看到这样,因为它是直接对原始图像激活产生的,而其他层都是在上一层上做处理,所以可解释性会变差。但是这样的gabor-like filter并没有什么实际用途。
3. 对representati