深入深度学习

1.感知机

感知机是一个接收多个输入，输出单个输出的算法

原理：

 eg：阈值相当于物理最大静摩擦力

感知机就像人拉飞机，只有超过最大静摩擦力才能移动

 实现：

卷积神经网络

全连接层在整个卷积神经网络中起到“分类器”的作用 。

卷积层作用是提取特征。

池化层作用缩小输入。

输入层：

卷积层

局部感知：人的大脑识别图片的过程中，并不是一下子整张图同时识别，而是对于图片中的每一个特征首先局部感知，然后更高层次对局部进行综合操作，从而得到全局信息。

 卷积过程：

卷积核：

 

激励层（激励函数）：

激活函数通俗来讲就是非线性函数，目的是用来增加神经网络的逼近能力，使深层神经网络表达能力更加强大

池化层：

也称为欠采样或下采样。主要用于特征降维，压缩数据和参数的数量，减小过拟合，同时提高模型的容错性。

输出层：

在全连接层中所有神经元都有权重连接，通常全连接层在卷积神经网络尾部。当前面卷积层抓取到足以用来识别图片的特征后，接下来链接所有特征，将其输入至分类器（softmax）中。