学习观察神经网络：可视化整个模型训练中卷积层的激活

全文共3425字，预计学习时长10分钟

图源：www.raincent.com

深度学习是机器学习领域中一个新的研究方向，它被引入机器学习使其更接近于最初的目标——人工智能。

 

深度学习是学习样本数据的内在规律和表示层次，这些学习过程中获得的信息对诸如文字，图像和声音等数据的解释有很大的帮助。因此，它在搜索技术，数据挖掘，机器学习，机器翻译，自然语言处理，多媒体学习，语音，推荐和个性化技术，以及其他相关领域都取得了很多成果。

 

与其他机器学习技术相比，深度学习的主要优势在于能够自动学习输入数据的抽象表示。然而，这一点却鲜为人知。

 

图源：Sian Molloy

 

早在1969年，Minkey和Papert就出版了一本著作，证明了单层感知器，即人工神经网络的前身，不能解决异或问题。

 

对于没有计算机科学背景或其他行业的人来说，异或问题就是指两个二进制输入：A和B。当且仅当A或B中有一个为真时返回真，因此得名“异或（exclusive or”）”。单层感知器不能解决这一问题的原因是它们只能解决线性可分的类。如果设置异或问题的可能输入及其输出，可以用下图说明:

世界上最烂的井字游戏（来源:维基共享资源）

 

你能在这个图上画一条直线，把圆圈和十字分开吗？

 

不，你不能，感知器也不能。

 

幸运的是，某些富有洞察力的人将两个感知器放在一起，深度学习领域就此诞生。这样做的原因是，神经网络的每一层都可以被认为是前一层的嵌入；虽然上图中的圆圈和十字在初始形态中可能不是线性可分的，但是通过简单的编码，它们就变得线性可分了。

 

记住图的左上角和右下角。然后，想象一下通过第三维度将图像对折，将右上角拖出屏幕，并将其向下压到左下角。正确的做法应该是这样的: 

仔细看的话会发现我没什么艺术细胞

 

现在，你能在这个图上画一条直线，把圆圈和十字分开吗？应该可以了。神经网络擅长的主要任务是将信息提取出来，并将其编码为其他更有效的形式。事实上，训练神经网络不是为了其预测能力，而是为了发现学习到的表示，这一直是深度学习研究的支柱。

 

学习观察

 

卷积神经网络（CNNs）是将深度学习应用于图像数据的最流行的架构。简单地说，卷积神经网络学习许多滤波器，将这些滤波器应用到图像的每个像素及其层上。通过对图像应用这些滤波器，以及重复的下采样，神经网络学会在其第一层识别简单的、低级的特征ÿ