几种经典的CNN模型 LeNet-5、AlexNet、VGG、Residual network、network in network and 1x1 convolution、Inception net

CNN特性： 图片的颜色和形态无论如何变化，只要是同样的物品在里面，它同样能够准确的识别物体的类别。

故利用此特性，常用改变颜色和截取原图不同区域来增加数据量。

 

1. LeNet-5

 

 

2. AlexNet

 

3. VGG

 

4. Residual network

普通深度神经网络（plain network）如果深度太深，根据梯度下降算法，离输出层越远的隐含层的乘积项会越多（通常会越乘越小），导致这些层的神经元训练会越缓慢（如果计算机精度不够的话，可能还会变0），导致难以或无法训练 残差网络，则是在普通神经网络基础上，把两层或多层的神经元组成一个residual block，将输入block和从最后一层的输出相加再通过输出函数送进下一个block。这样的好处是，在梯度下降的计算上，偏导数变成了1＋原来的乘积项，就不会因为越乘越小，而导致远离最终输出的那层隐含层调参缓慢或甚至无法调参。

 

5. network in network and 1x1 convolution 

 

 

6. Inception network

 

 

 

 

 

Inception module