卷积神经网络事例

1、一种卷积就是conv和pool作为一层。一种是只有把conv作为一层，池化层作为单独的一层。人们计算神经网络有多少层的时候，往往是具有统计权重和参数的值。因为池化层没有参数和权重，只有一些超级参数。在这里只有把conv和pool作为一个卷积，并标记为layer1.随着网络的加深，高度宽度会越来越小。信道数会增加。然后得到一个全连接层。还有一种神经网络的形式子是多个卷积后面跟着一个pool layer，然后再多个卷积跟一个pool layer。然后是几个全连接层。最后一个是softmax，这是神经网络的另一种模式。LetNet-5 的激活函数是Tan.Sigmoid 的函数。

如果激活值下降太快的话，影响网络的性能。

一个卷积神经网络包括：卷积层、池化层、全连接层。

AlexNet之所以比leNet效果好的原因是：使用了Relu激活函数。