本文采用Deconvnet对CNN学习到的features进行可视化。
核心思想
对CNN的第n层中的某一个feature map,每一个unit就是一个activation,当我们想要可视化某一个activation时,将第n层中除了这个activation以外的所有feature maps中的activations都设为零,一起输入给deconvnet,即可得到一个reconstruction image,它反映出原输入图像中产生activation的部分。
整个过程类似但不同于将一个strong activation反向传播,找到产生这个strong activation的input pattern。
算法缺点
一次只能可视化一个activation,而不能将某一层中所有的activations都可视化。
流程
右侧为卷积过程:包括卷积(卷积核为F)、Relu、