使用可视化方法理解卷积神经网络（CNN）的指南

Introduction

“你的神经网络是如何产生这种结果的？”这个问题让许多数据科学家陷入了困境。 很容易解释一个简单的神经网络如何工作，但是当你在一个计算机视觉项目中增加1000x层时会发生什么？

我们的客户或最终用户需要可解释性 - 他们想知道我们的模型如何达到最终结果。 我们不能用笔和纸来解释深度神经网络是如何工作的。 那么我们如何摆脱这种神经网络的“黑匣子”形象呢？

通过可视化他们！ 可视化神经网络的不同特征所带来的清晰度是无与伦比的。 当我们处理在数千和数百万图像上训练的卷积神经网络（CNN）时尤其如此。

在本文中，我们将研究用于可视化卷积神经网络的不同技术。 此外，我们还将致力于从这些可视化中提取洞察力，以调整我们的CNN模型。

Table Of Contents

• 为什么我们应该使用可视化来解码神经网络？
• 设置模型体系结构
• 访问CNN的各个层
• 过滤器 - 可视化CNN的构建块
• 激活最大化 - 可视化模型的期望
• 遮挡贴图 - 可视化输入中的重要内容
• 显着性图 - 可视化输入特征的贡献
• 类激活映射
• 分层输出可视化 - 可视化过程