卷积神经网络学习三：神经网络之深度学习与tinny_cnn中的层

卷积神经网络学习三：神经网络之深度学习

一、神经网络

神经网络是具有适应性的简单单元组成的广泛并行的网络，它的组织能够模拟生物神经系统对真实世界物体作出的交互反应。在机器学习中，神经网络指“神经网络学习”。关于神经元模型、感知机以及其他神经网络，推荐大家一本书。周志华的《机器学习》，清华大学出版社出版，2016年1月第一版。

二、深度学习

典型的深度学习就是很深层的神经网络。对神经网络模型提高容量的一个简单办法就是增加隐层的数目。

如图，是卷积神经网络（CNN）用于手写数字识别的示例图。

卷积神经网络主要分为输入层、卷积层、采样层、连接层、输出层这几部分。

而在tinny_cnn/layers文件夹下，我们也可以看到有很多层。最简单的卷积神经网络标记如下图。

各层之间的继承关系图如下：其中layers.h是头文件的集合。layer的父类是node。