卷积神经网络（CNN）学习笔记

卷积神经网络（CNN）

Keywords：

常用网络：LeNet5 、AlexNet VGGNet、 GoogleNet、 ResNet、DenseNet

filter size

stripe

padding

参数共享机制

fine tuning

输入层、卷积层、激励层、池化层、全连接层、Softmax 输出层

一般CNN结构依次为：

一个CNN 层级结构示意图：

卷积层：一组固定的权重和不同窗口内数据做内积，就是卷积。

激励层：

激励函数：

Sigmoid ： $f(x) = \frac{1}{1+e^{(-x)}}$ 函数很容易饱和，$|x| \geq 10$ 梯度近似于0

Tanh : f(x)=