卷积神经网络的可视化

一、可视化卷积神经网络的中间输出（中间激活）：有助于理解卷积神经网络连续的层如何对输入进行变换，也有助于初步了解卷积神经网络每个过滤器的含义。

二、可视化卷积神经网络的过滤器：有助于精确理解卷积神经网络中每个过滤器容易接受的视觉模式或视觉概念。

三、可视化图像中类激活的热力图：有助于理解图像的哪个部分被识别为属于某个类别，从而可以定位图像中的物体。

可视化中间激活，是指对于给定输入，展示网络中的各个卷积层和池化层输出的特征图（即激活函数的输出）。

这让我们看到输入如何被分解为网络学到的不同过滤器。我们希望在三个维度对特征图进行可视化：宽度、高度和深度（通道）。每个通道都对应相对独立的特征，所以将这些特征图可视化的正确方法是将每个通道的内容分别绘制成二维图像。

我们加载一个保存好的猫狗分类器模型，结构如下图所示：

输入一张猫咪图像，绘制con2d_2层所有特征图（通道数为64）：

需要注意的是，激活的稀疏度随着层数的加深而增大。在第一层里所有过滤器都被输入图像激活，但在后面的层里，会出现越来越多的过滤器是空白的。我们所示图像为第三层࿰