Xiang神经网络总结（十五）

必要遮挡证明神经网络学习到了有用的信息。（更关注象脸）

我们之前反向传播的时候，计算的是结果关于权值的导数，这里计算结果关于Δx的导数。思考这里这样操作为什么成立？我们知道前向计算是权值×ΔX然后通过反向传播更新权值，更新完有些权值可能不重要设置成0了，那么结果关于Δx的导数可能就不存在了。

上图选择RGB三通道中导数最大的通道保留，我们可以通过这个反向可视化来确定神经网络学习性能如何，关注点是否正确。（实际上效果不是太好）。

一种反向可视化可应用的场景：图像分割，反向可视化可以理解为对于图片“边界”的确定。

Guided BP

自我理解：反向传播的梯度矩阵我们肯定更关心那些梯度较大的地方（信息强烈），对于正向来的梯度，那些负了的我们也是不怎么关心的。


还有其他方法可视化每个神经元在做什么吗？
Gradient Ascent(梯度上升)
假设人工合成的可视化卷积核图为 x，我们希望这张合成图 x 能够使其对应的神经元（卷积核）具有最高的激活值。所得到的这张合成图像就是该卷基层的卷积核“想要看到的”或者“正在寻找的纹理特征”。也就是说我们希望找到一张图像经过CNN网络，传播到指定的卷积核的时候，这张图片可以使得该卷积核的得分最高。

为了合成这一张图片，我们开始从一张带有随机噪声的图像开始，每个像素值随机选取一种颜色。

接下来，我们使用这张噪声图作为CNN网络的输入向前传播，然后取得其在网络中第 i 层 j 个卷积核的激活 a_ij(x)，然后做一个反向传播计算 delta a_i(x)/delta x 的梯度，最后我们把该噪声图的卷积核梯度来更新噪声图。目标是希望通过改变每个像素的颜色值以增加对该卷积核的激活，这里就使用了梯度上升法：

这里的zero image随机颜色，卷积核规定了每个像素所占的比例，可以简单的理解为卷积核在画图，然后反向传播 激活delta a_i(x)/delta x 的梯度叠加到原图上。

正则项，不鼓励大的权值（损失值会变大）

其他一些正则手段，高斯平滑等

由梯度上升（加强）可以看出低层神经元更关注纹理信息，高层抽象出一定的语义信息。

一些约束使得图像更真实

愚弄神经网络：



因为神经网络都是W×X X稍微向W方向偏移一些那么W就容易被激活。

DeepDream

将某一层的梯度叠加到原图，然后反复叠加计算

针对特征：

后层的神经网络可能就不关心细节信息了。