Pytoch Note58 CNN可视化

Pytoch Note58 CNN可视化

全部笔记的汇总贴： Pytorch Note 快乐星球

卷积神经网络（CNN）是深度学习中非常重要的模型结构，它广泛地用于图像处理，极大地提升了模型表现，推动了计算机视觉的发展和进步。但CNN是一个“黑盒模型”，人们并不知道CNN是如何获得较好表现的，由此带来了深度学习的可解释性问题。如果能理解CNN工作的方式，人们不仅能够解释所获得的结果，提升模型的鲁棒性，而且还能有针对性地改进CNN的结构以获得进一步的效果提升。

理解CNN的重要一步是可视化，包括可视化特征是如何提取的、提取到的特征的形式以及模型在输入数据上的关注点等。

这一部分就会介绍一下

• 可视化CNN卷积核的方法
• 可视化CNN特征图的方法
• 可视化CNN显著图（class activation map）的方法

1.CNN卷积核可视化

我们在学习深度学习中，总会看到卷积核是用来提取我们的特征的，但是有时候，我们似乎不知道卷积核是如何提取我们的特征的，我们只能看到一个一个的张量，所以我们可以可视化我们的卷积核来加深理解，进而理解模型的工作原理。

在Zeiler和Fergus 2013年的paper中就研究了CNN各个层的卷